Penulis SB 1047 California, undang-undang keamanan AI yang paling kontroversial di negara tersebut pada tahun 2024, kembali dengan RUU AI baru yang dapat mengguncang Silicon Valley.
Senator negara bagian California, Scott Wiener, memperkenalkan RUU baru pada hari Jumat yang akan melindungi karyawan di laboratorium AI terkemuka, memungkinkan mereka untuk bersuara jika mereka percaya bahwa sistem AI perusahaan mereka dapat menjadi "risiko kritis" bagi masyarakat. RUU baru, SB 53, juga akan menciptakan sebuah klaster komputasi cloud publik, yang disebut CalCompute, untuk memberikan para peneliti dan startup sumber daya komputasi yang diperlukan untuk mengembangkan AI yang bermanfaat bagi publik.
RUU AI terakhir Wiener, SB 1047 California, memicu perdebatan sengit di seluruh negeri tentang bagaimana mengatasi sistem AI yang sangat besar yang dapat menyebabkan bencana. SB 1047 bertujuan untuk mencegah kemungkinan model AI yang sangat besar menciptakan peristiwa bencana, seperti menyebabkan hilangnya nyawa atau serangan cyber yang mengakibatkan kerugian lebih dari $500 juta. Namun, Gubernur Gavin Newsom akhirnya menolak RUU tersebut pada bulan September, dengan mengatakan bahwa SB 1047 bukanlah pendekatan terbaik.
Namun, perdebatan seputar SB 1047 dengan cepat menjadi tidak menyenangkan. Beberapa pemimpin Silicon Valley mengatakan bahwa SB 1047 akan merugikan keunggulan kompetitif Amerika dalam perlombaan AI global, dan mengklaim bahwa RUU tersebut terinspirasi oleh ketakutan yang tidak realistis bahwa sistem AI dapat menyebabkan skenario kehancuran seperti dalam fiksi ilmiah. Sementara itu, Senator Wiener menuduh beberapa pemodal ventura terlibat dalam "kampanye propaganda" melawan RUU-nya, menunjukkan sebagian klaim Y Combinator bahwa SB 1047 akan mengirim pendiri startup ke penjara, klaim yang para ahli sebut menyesatkan.
SB 53 pada dasarnya mengambil bagian paling tidak kontroversial dari SB 1047 - seperti perlindungan untuk whistleblowers dan pembentukan klaster CalCompute - dan menyusunnya kembali menjadi RUU AI baru.
Terutama, Wiener tidak menghindari risiko AI eksistensial dalam SB 53. RUU baru ini secara khusus melindungi para whistleblower yang percaya bahwa majikan mereka sedang menciptakan sistem AI yang menimbulkan "risiko kritis." RUU tersebut mendefinisikan risiko kritis sebagai "risiko yang dapat dilihat atau material bahwa pengembangan, penyimpanan, atau penempatan model dasar developer, sebagaimana didefinisikan, akan mengakibatkan kematian atau cedera serius pada lebih dari 100 orang, atau lebih dari $1 miliar dalam kerusakan hak atas uang atau properti."
SB 53 membatasi pengembang model AI garda depan - kemungkinan termasuk OpenAI, Anthropic, dan xAI, antara lain - untuk melawan balik terhadap karyawan yang mengungkapkan informasi yang mengkhawatirkan kepada Jaksa Agung California, otoritas federal, atau karyawan lainnya. Di bawah RUU tersebut, pengembang tersebut akan diwajibkan untuk melaporkan kembali kepada para whistleblower tentang beberapa proses internal yang menjadi kekhawatiran bagi para whistleblower.
Adapun CalCompute, SB 53 akan membentuk sebuah grup untuk membangun klaster komputasi cloud publik. Grup tersebut akan terdiri dari perwakilan University of California, serta peneliti publik dan swasta lainnya. Mereka akan memberikan rekomendasi tentang bagaimana membangun CalCompute, seberapa besar klaster tersebut harus, dan pengguna dan organisasi mana yang harus memiliki akses ke dalamnya.
Tentu saja, masih sangat awal dalam proses legislatif untuk SB 53. RUU ini perlu ditinjau dan disetujui oleh badan legislatif California sebelum mencapai meja Gubernur Newsom. Anggota legislatif negara akan pasti menunggu reaksi Silicon Valley terhadap SB 53.
Bagaimanapun, tahun 2025 mungkin akan menjadi tahun yang lebih sulit untuk melewati RUU keamanan AI dibandingkan dengan tahun 2024. California telah meloloskan 18 RUU terkait AI pada tahun 2024, namun sekarang tampaknya gerakan kehancuran AI telah kehilangan pijakan.
Wakil Presiden J.D. Vance memberikan sinyal di Paris AI Action Summit bahwa Amerika tidak tertarik pada keamanan AI, namun lebih memprioritaskan inovasi AI. Meskipun klaster CalCompute yang didirikan oleh SB 53 tentu dapat dianggap sebagai kemajuan dalam perkembangan AI, belum jelas bagaimana upaya legislatif seputar risiko AI eksistensial akan berhasil pada tahun 2025.
