Microsoft mengambil tindakan hukum terhadap sebuah kelompok yang perusahaan tersebut klaim dengan sengaja mengembangkan dan menggunakan alat untuk melewati pelindung keamanan produk AI cloud-nya.
Menurut keluhan yang diajukan oleh perusahaan pada bulan Desember di Pengadilan Distrik AS untuk Distrik Timur Virginia, sekelompok 10 terdakwa yang tidak disebutkan namanya diduga menggunakan kredensial pelanggan yang dicuri dan perangkat lunak yang didesain khusus untuk meretas Layanan Azure OpenAI, layanan yang sepenuhnya dikelola oleh Microsoft yang didukung oleh teknologi OpenAI pembuat ChatGPT.
Di dalam keluhan, Microsoft menuduh terdakwa - yang hanya disebut sebagai "Does," sebuah pseudonim hukum - melanggar Undang-Undang Penipuan dan Penyalahgunaan Komputer, Undang-Undang Hak Cipta Milenium Digital, dan undang-undang penipuan federal dengan cara mengakses dan menggunakan perangkat lunak dan server Microsoft secara ilegal untuk tujuan "menciptakan konten ofensif" dan "merugikan dan menciptakan konten ilegal." Microsoft tidak memberikan detail khusus tentang konten yang merugikan yang dihasilkan.
Perusahaan ini sedang meminta relief injunctive dan "lainnya yang berimbang" dan ganti rugi.
Dalam keluhan tersebut, Microsoft mengatakan bahwa pada bulan Juli 2024, perusahaan menemukan bahwa kredensial pelanggan dengan Azure OpenAI Service - khususnya API keys, string karakter unik yang digunakan untuk mengautentikasi aplikasi atau pengguna - digunakan untuk menghasilkan konten yang melanggar kebijakan penggunaan yang dapat diterima. Kemudian, melalui investigasi, Microsoft menemukan bahwa kunci API tersebut dicuri dari pelanggan berbayar, menurut keluhan tersebut.
"Cara yang tepat di mana Terdakwa mendapatkan semua Kunci API yang digunakan untuk melakukan pelanggaran seperti yang dijelaskan dalam Keluhan ini tidak diketahui," isi keluhan Microsoft itu, "tapi tampaknya Terdakwa telah terlibat dalam pola pencurian Kunci API sistematis yang memungkinkan mereka mencuri Kunci API Microsoft dari beberapa pelanggan Microsoft."
Microsoft menuduh bahwa para terdakwa menggunakan kunci API Layanan Azure OpenAI yang dicuri milik pelanggan berbasis AS untuk membuat skema "hacking-as-a-service." Menurut keluhan, untuk mengerjakan skema ini, terdakwa membuat alat sisi klien bernama de3u, serta perangkat lunak untuk memproses dan mengarahkan komunikasi dari de3u ke sistem-sistem Microsoft.
De3u memungkinkan pengguna memanfaatkan kunci API yang dicuri untuk menghasilkan gambar menggunakan DALL-E, salah satu model OpenAI yang tersedia bagi pelanggan Layanan Azure OpenAI, tanpa harus menulis kode mereka sendiri, menurut tuduhan Microsoft. De3u juga mencoba mencegah Layanan Azure OpenAI dari merevisi promosi yang digunakan untuk menghasilkan gambar, sesuai dengan keluhan tersebut, yang bisa terjadi, misalnya, ketika promosi teks mengandung kata-kata yang memicu penyaringan konten Microsoft.
Repo yang berisi kode proyek de3u, di-host di GitHub - sebuah perusahaan yang dimiliki oleh Microsoft - tidak lagi dapat diakses saat ini.
"Fitur-fitur ini, digabungkan dengan akses API programatis ilegal Terdakwa ke layanan Azure OpenAI, memungkinkan Terdakwa untuk merekayasa balik cara-cara menghindari konten dan langkah-langkah penggunaan Microsoft," tulis keluhan tersebut. "Terdakwa dengan sengaja dan dengan sengaja mengakses komputer-komputer yang dilindungi oleh Layanan Azure OpenAI tanpa izin, dan sebagai akibat dari perilaku tersebut menyebabkan kerusakan dan kerugian."
Dalam sebuah pos blog yang diterbitkan Jumat, Microsoft mengatakan bahwa pengadilan telah memberikan izin kepadanya untuk menyita sebuah situs web yang "mendasar" untuk operasi terdakwa yang akan memungkinkan perusahaan untuk mengumpulkan bukti, memahami bagaimana layanan yang diduga terdakwa itu dimonetisasi, dan mengganggu infrastruktur teknis tambahan apa pun yang ditemuinya.
Microsoft juga mengatakan bahwa perusahaan telah "menempatkan kontra-tindakan," yang tidak mereka spesifikasikan, dan "menambahkan mitigasi keamanan tambahan" ke Layanan Azure OpenAI yang menargetkan kegiatan yang mereka amati.
