Kupang, Avis News — Dunia kecerdasan buatan (Artificial Intelligence / AI) menghadapi momen kritis setelah CEO Anthropic, Dario Amodei, secara terbuka mendesak para pengembang teknologi global untuk memperlambat laju peningkatan kemampuan model AI. Seruan ini langsung memicu gelombang dukungan langka dari para tokoh kunci industri teknologi, termasuk CEO OpenAI Sam Altman dan bos xAI Elon Musk.

KEKHWATIRAN GLOBAL DAN KERANGKA KERJA TIGA LANGKAH

Seruan tersebut mengemuka di tengah meningkatnya kekhawatiran atas berbagai potensi malapetaka yang ditimbulkan oleh kemajuan AI yang terlalu cepat mulai dari lonjakan angka pengangguran, maraknya disinformasi, pembobolan sistem siber, hingga ancaman krisis lingkungan akibat pembangunan pusat data (data center).

Baru-baru ini, laporan internal Anthropic mengungkap bagaimana model AI mereka sempat digunakan untuk aktivitas berbahaya, termasuk pengembangan senjata, operasi siber, hingga insiden di mana agen AI otonom secara tidak terkendali meretas sistem eksternal, seperti pembobolan repositori open-source Hugging Face.

Sebagai solusi, Amodei memaparkan kerangka kerja tiga langkah guna mengatur kecepatan pengembangan dan mengelola risiko secara bijak:

  1. Evaluator Independen: Menempatkan peninjau pihak ketiga permanen di dalam perusahaan AI terdepan dengan akses setingkat karyawan untuk memverifikasi praktik keselamatan dan menilai keselarasan model.
  2. Koordinasi Industri: Mendorong kerja sama sukarela antarperusahaan AI utama untuk menetapkan standar keselamatan bersama dan membatasi pengembangan yang tidak terkendali.
  3. Kerja Sama Internasional: Membangun kolaborasi global dalam tata kelola risiko AI, sembari tetap menjaga batasan ketat demi mempertahankan keunggulan teknologi negara demokratis atas rezim otoriter seperti China.

DUKUNGAN LANGKA DARI TOKOH TEKNOLOGI

Di luar dugaan, para rival utama di industri teknologi kompak menyambut positif gagasan tersebut. Elon Musk melalui platform X menyatakan persetujuannya secara tegas dan kembali mengingatkan peringatannya sejak 2014 bahwa AI berpotensi jauh lebih berbahaya dibandingkan senjata nuklir.

Hal senada diungkapkan oleh Sam Altman. Selain sepakat untuk mengendalikan laju pengembangan AI dan menerapkan sistem evaluator independen serupa, Altman juga menegaskan bahwa OpenAI belum berencana untuk melakukan penawaran umum perdana (initial public offering / IPO) dalam waktu dekat, mengingat kondisi keselamatan AI saat ini belum ideal untuk melantai di bursa. Dukungan serupa turut disampaikan oleh pendiri Google DeepMind, Demis Hassabis.

Kendati demikian, perdebatan tetap bergulir di kalangan pakar. Sejumlah pihak menilai langkah tersebut masih belum cukup menekan risiko secara maksimal, sementara taruhan bisnis dan persiapan IPO bernilai raksasa terus membayangi langkah perusahaan-perusahaan rintisan (labs) tersebut di tengah ketatnya persaingan global.

Di tengah gelombang desakan regulasi yang semakin kuat dari para pembuat kebijakan di berbagai negara, pertemuan tingkat tinggi para pemimpin industri terus digencarkan termasuk agenda pertemuan dengan Raja Charles III di Skotlandia guna memastikan teknologi AI masa depan tetap berada dalam koridor keselamatan umat manusia.

Sumber : CNBC Indonesia, IDN Financials, SindoNews, Kabarika