Encode, organisasi nirlaba yang menjadi mitra bersama legislasi keamanan AI SB 1047 yang tidak berhasil di California, telah meminta izin untuk mengajukan pendapat teman di dukungan untuk gugatan Elon Musk untuk menghentikan transisi OpenAI menjadi perusahaan nirlaba.
Dalam usul pendapat yang diajukan ke Pengadilan Distrik AS untuk Distrik Utara California Jumat sore, penasihat Encode mengatakan bahwa konversi OpenAI menjadi perusahaan nirlaba akan “menghancurkan” misi perusahaan untuk “mengembangkan dan menerapkan… teknologi yang transformatif dengan cara yang aman dan bermanfaat bagi publik.”
“OpenAI dan CEO-nya, Sam Altman, mengklaim sedang mengembangkan teknologi yang akan mengubah masyarakat, dan klaim tersebut harus dianggap serius,” demikian isi usul tersebut. “Jika dunia benar-benar berada di ambang era kecerdasan buatan umum (AGI) baru, maka publik memiliki kepentingan besar dalam memiliki teknologi itu dikendalikan oleh sebuah badan amal publik yang secara hukum diikat untuk memprioritaskan keselamatan dan manfaat publik daripada organisasi yang berfokus pada menghasilkan keuntungan finansial bagi beberapa investor yang terpilih.”
Dalam sebuah pernyataan, Sneha Revanur, pendiri dan presiden Encode, menuduh OpenAI “menginternalisasi keuntungan [dari kecerdasan buatan] namun mengeluarkan konsekuensi kepada seluruh umat manusia,” dan mengatakan bahwa “[p]engadilan harus campur tangan untuk memastikan pengembangan kecerdasan buatan melayani kepentingan publik.”
Usul Encode telah mendapat dukungan dari Geoffrey Hinton, seorang perintis di bidang kecerdasan buatan dan penerima Nobel 2024, serta Stuart Russell, seorang profesor ilmu komputer di UC Berkeley dan direktur di Center for Human-Compatible AI.
“OpenAI didirikan sebagai laboratorium penelitian nirlaba yang secara eksplisit fokus pada keselamatan dan membuat berbagai janji terkait keselamatan dalam perjanjian pendiriannya,” kata Hinton dalam rilis pers. “Perusahaan ini menerima berbagai manfaat pajak dan lainnya dari status nirlabanya. Membiarkannya melanggar semua itu ketika menjadi tidak nyaman menyampaikan pesan yang sangat buruk kepada pelaku lain dalam ekosistem.”
OpenAI diluncurkan tahun 2015 sebagai laboratorium penelitian nirlaba. Namun seiring eksperimennya menjadi semakin berorientasi pada modal, perusahaan menciptakan struktur saat ini, mengambil investasi dari modal ventura dan perusahaan, termasuk Microsoft.
Saat ini, OpenAI memiliki struktur hibrida: sisi nirlaba yang dikendalikan oleh sebuah nirlaba dengan bagian keuntungan yang terbatas untuk investor dan karyawan. Namun dalam sebuah posting blog Jumat pagi, perusahaan mengatakan bahwa mereka berencana untuk mulai mengalihkan perusahaan nirlaba yang ada menjadi Perusahaan Manfaat Publik (PBC) Delaware, dengan saham biasa dan misi OpenAI sebagai kepentingan manfaat publiknya.
Nirlaba OpenAI akan tetap ada namun akan menyerahkan kendali sebagai imbalan saham di PBC.
Musk, kontributor awal pada badan nirlaba asli, mengajukan gugatan pada November meminta penundaan untuk menghentikan perubahan yang diusulkan, yang telah lama direncanakan. Dia menuduh OpenAI meninggalkan misi filantropis aslinya untuk membuat hasil penelitian kecerdasan buatannya tersedia untuk semua dan mendiskriminasi pesaing dari segi modal, termasuk startup kecerdasan buatannya, xAI, melalui cara antikonstruktif.
OpenAI menyebut keluhan Musk “tidak beralasan” dan hanya sekadar seorang pemilik yang memendam kekecewaan.
Perusahaan induk Facebook dan pesaing kecerdasan buatan, Meta, juga mendukung upaya untuk menghalangi konversi OpenAI. Pada Desember, Meta mengirimkan surat kejaksaan jenderal California Rob Bonta, berargumen bahwa mengizinkan pergeseran ini akan memiliki “dampak seismik bagi Silicon Valley.”
Penasihat Encode mengatakan bahwa rencana OpenAI untuk mentransfer kontrol operasinya menjadi PBC akan “mengkonversikan sebuah organisasi yang diikat oleh hukum untuk memastikan keselamatan kecerdasan buatan canggih menjadi sebuah organisasi yang diikat oleh hukum untuk ‘mencari keseimbangan’ pertimbangan manfaat publik apa pun terhadap ‘kepentingan sewajarnya dari pemegang saham [nya].’”
Penasihat Encode mencatat dalam usul tersebut, misalnya, bahwa nirlaba OpenAI telah berkomitmen untuk berhenti bersaing dengan proyek “yang berorientasi pada nilai, sadar akan keselamatan” yang mendekati pembangunan AGI sebelum dirinya, tetapi bahwa OpenAI sebagai perusahaan nirlaba akan memiliki insentif yang lebih sedikit (jika ada) untuk melakukannya. Usulan tersebut juga menunjukkan bahwa dewan nirlaba OpenAI tidak akan lagi dapat membatalkan ekuitas investor jika diperlukan demi keselamatan setelah restrukturisasi perusahaan selesai.
OpenAI terus mengalami aliran keberangkatan bakat tinggi, selama di antaranya keprihatinan bahwa perusahaan lebih memprioritaskan produk komersial daripada keselamatan. Salah satu mantan karyawan, Miles Brundage, seorang peneliti kebijakan jangka panjang yang meninggalkan OpenAI pada Oktober, mengatakan dalam serangkaian posting di X bahwa dia khawatir nirlaba OpenAI menjadi “cumanan” yang memberi izin pada PBC untuk beroperasi sebagai perusahaan “normal” tanpa menangani area yang mungkin bermasalah.
“Kewajiban fidusiair OpenAI yang dipuji untuk umat manusia akan menguap, karena hukum Delaware jelas bahwa direktur sebuah PBC tidak memiliki kewajiban kepada publik sama sekali,” lanjut usulan Encode. “Kepentingan publik akan dirugikan oleh sebuah nirlaba yang fokus pada keselamatan, misi yang dibatasi, melimpahkan kendali atas sesuatu yang begitu transformatif dengan harga apa pun ke sebuah perusahaan nirlaba tanpa komitmen yang dapat dilaksanakan terhadap keselamatan.”
Encode, didirikan pada Juli 2020 oleh Revanur, menjelaskan dirinya sebagai jaringan sukarelawan yang berfokus pada memastikan suara generasi muda didengar dalam perbincangan tentang dampak kecerdasan buatan. Encode telah memberikan kontribusi terhadap berbagai undang-undang AI negara dan federal selain SB 1047, termasuk Piagam Hak AI Gedung Putih dan perintah eksekutif Presiden Joe Biden tentang AI.
Diperbarui pada 30 Desember 2024, dengan pernyataan dari Revanur dan Hinton.
TechCrunch memiliki buletin berfokus pada AI! Daftar di sini untuk mendapatkannya di kotak masuk Anda setiap hari Rabu.
