BISNISINSIGHT.COM — Insiden pembatasan akses model AI Anthropic menjadi pemicu utama diskusi di ajang tahunan yang mengusung tema "Emerging from Agency" ini. Para pendiri startup, investor, dan operator dari seluruh Eropa mempertanyakan apakah sudah waktunya benua ini memiliki model dan infrastruktur AI sendiri, alih-alih menyewa dari Amerika Serikat dan China.
Salah seorang eksekutif startup yang ditemui di sela acara mengaku insiden tersebut sempat mengganggu tim pengembangan perangkat lunaknya. Namun, eksekutif lain menanggapinya dengan lebih santai, menilai dampaknya belum terlalu terasa meski risiko di masa depan tetap ada.
Manusia Masih Menentukan Batas Kemampuan AI
Ellen de Brever, angel investor sekaligus kepala kemitraan di Novo Nordisk Foundation Cellerator, menilai tema agensi tahun ini sangat relevan. Menurutnya, perdebatan yang muncul bukan lagi tentang seberapa pintar mesin, melainkan tentang penilaian manusia dan siapa yang akhirnya memegang kendali.
"Era agen AI sebenarnya bukan tentang mesin yang mendapatkan kendali. Ini tentang manusia yang memutuskan apa yang ingin mereka serahkan," ujar de Brever kepada TechCrunch.
Kritik Pedas Soal Privasi dan Konsentrasi Kekuasaan
Sesi panel yang paling menyita perhatian adalah diskusi tentang bisa atau tidaknya privasi dan AI berjalan beriringan, yang menghadirkan Presiden Signal, Meredith Whittaker. Whittaker dengan tegas mengkritik integrasi asisten AI ke dalam sistem operasi, seperti yang dilakukan ChatGPT pada iMessage. Ia menyebut praktik semacam itu menciptakan "alat pengumpul data" dan menggunakan pemasaran cerdas untuk melupakan konsekuensi sampingan dari akuisisi data dalam jumlah besar.
"Masih ada kebutuhan pasar yang sangat besar akan privasi. Terutama dengan kekhawatiran soal kedaulatan, kami akan memiliki pelanggan di sini," kata Whittaker.
Senada dengan Whittaker, Emad Mostaque, salah satu pendiri Stability AI, menyoroti konsentrasi kekuasaan yang berada di tangan segelintir laboratorium AI. Dalam panel yang sama, ia menyatakan bahwa pada akhirnya setiap negara akan dijalankan oleh AI, dan orang yang mengendalikan AI akan mengendalikan negara. "Kedaulatan adalah kemampuan untuk menolak kekuasaan yang dipaksakan kepada Anda," tegas Mostaque.
Dampak Lebih Luas pada Struktur Masyarakat
Kekhawatiran yang lebih fundamental juga mengemuka. Mia Negru, direktur advokasi dan keterlibatan untuk organisasi nirlaba Life With Artificials, menyampaikan bahwa jika agen cerdas melakukan pekerjaan kognitif dan robot melakukan pekerjaan fisik, manusia mungkin akan menghadapi perubahan yang lebih besar dari sekadar revolusi teknologi.
"Kita mungkin harus memikirkan ulang kepemilikan, pekerjaan, demokrasi, partisipasi ekonomi, dan bahkan siapa yang berhak berpartisipasi dalam masyarakat," tulis Negru dalam pesannya.
Kolaborasi dan Jaringan di Luar Sesi Panel
Di luar ruang diskusi, suasana hangat tetap terjaga. Acara sosial seperti barbekyu di atap yang diadakan oleh Lovable, Nvidia, OpenAI, AWS Startups, dan HSBC menjadi ajang bagi para pendiri untuk membahas pertumbuhan pusat teknologi di Denmark. Ada juga pertemuan yang diadakan oleh Ada Ventures dari London di bar koktail Bird, tempat obrolan tentang inovasi kesehatan otak wanita mengalir.
Meski topik berat mendominasi, de Brever mengingatkan bahwa momen paling berkesan dari acara tersebut tetap datang dari hal sederhana. "Di ruangan yang penuh dengan percakapan tentang mesin, momen yang paling berkesan tetap datang dari hal yang paling sederhana: koneksi antarmanusia, bertatap muka, membangun hubungan, berbagi ide, dan saling mengingatkan apa yang tidak pernah bisa digantikan oleh teknologi," pungkasnya.