Kacamata pintar Meta yang didukung AI memiliki kamera yang sangat rahasia di bagian depan, untuk mengambil foto tidak hanya saat Anda memintanya, tetapi juga saat fitur AI mereka memicunya dengan kata kunci tertentu seperti “lihat.” Itu berarti kacamata pintar mengumpulkan banyak foto, baik yang sengaja diambil maupun tidak. Namun perusahaan tidak akan berkomitmen untuk menjaga privasi foto-foto ini.
Kami bertanya kepada Meta apakah mereka berencana untuk melatih model AI pada gambar dari pengguna Ray-Ban Meta, seperti yang mereka lakukan pada gambar dari akun media sosial publik. Perusahaan tidak mau mengatakan.
“Kami tidak membahas hal tersebut secara publik,” kata Anuj Kumar, direktur senior yang bekerja di wearables AI di Meta, dalam wawancara video dengan TechCrunch pada hari Senin.
“Itu bukan sesuatu yang biasanya kami bagikan secara eksternal,” kata juru bicara Meta Mimi Huggins, yang juga ikut dalam panggilan video tersebut. Ketika TechCrunch meminta klarifikasi apakah Meta sedang melatih pada gambar-gambar ini, Huggins menjawab, “kami tidak mengatakan baik maupun tidak.”
Bagian dari alasan ini sangat mengkhawatirkan adalah karena fitur AI baru Ray-Ban Meta, yang akan mengambil banyak foto pasif ini. Minggu lalu, TechCrunch melaporkan bahwa Meta berencana untuk meluncurkan fitur video real-time baru untuk Ray-Ban Meta. Ketika diaktifkan dengan kata kunci tertentu, kacamata pintar akan menyiarkan serangkaian gambar (secara efektif, video live) ke model AI multimodal, memungkinkannya untuk menjawab pertanyaan tentang lingkungan Anda dengan cara alami dan rendah laten.
Itu banyak gambar, dan itu adalah foto-foto yang pengguna Ray-Ban Meta mungkin tidak sadar bahwa mereka mengambilnya. Katakanlah Anda meminta kacamata pintar memindai isi lemari Anda untuk membantu Anda memilih pakaian. Kacamata tersebut sebenarnya mengambil puluhan foto kamar Anda dan segalanya di dalamnya, dan mengunggahnya semua ke model AI di cloud.
Apa yang terjadi pada foto-foto itu setelah itu? Meta tidak akan mengatakan.
Memakai kacamata Ray-Ban Meta juga berarti Anda sedang memakai kamera di wajah Anda. Seperti yang kita ketahui dengan Google Glass, itu bukan sesuatu yang universally nyaman bagi orang lain, untuk mengatakannya dengan ringan. Jadi Anda akan berpikir ini adalah suatu keputusan mudah bagi perusahaan yang melakukannya untuk mengatakan, “Hei! Semua foto dan video dari kamera wajah Anda akan benar-benar pribadi, dan disilo ke kamera wajah Anda.”
Tetapi itu bukan apa yang Meta lakukan di sini.
Meta sudah menyatakan bahwa mereka melatih model AI mereka pada setiap kiriman Instagram dan Facebook publik warga Amerika. Perusahaan telah memutuskan bahwa semua itu adalah “data yang tersedia secara publik,” dan kita mungkin harus menerimanya. Mereka dan perusahaan teknologi lainnya telah mengadopsi definisi yang sangat luas tentang apa yang tersedia secara publik bagi mereka untuk melatih AI, dan apa yang tidak.
Namun, tentu saja dunia yang Anda lihat melalui kacamata pintar mereka tidak “tersedia secara publik.” Meskipun kita tidak bisa berkata pasti bahwa Meta melatih model AI pada rekaman kamera Ray-Ban Meta Anda, perusahaan tersebut secara sederhana tidak mau mengatakan pasti bahwa itu tidak.
Penyedia model AI lain memiliki aturan yang lebih jelas tentang melatih pada data pengguna. Anthropic mengatakan bahwa mereka tidak pernah melatih pada masukan atau keluaran pelanggan ke, atau keluaran dari, salah satu model AI mereka. OpenAI juga mengatakan bahwa mereka tidak pernah melatih pada masukan atau keluaran pengguna melalui API mereka.
Kami telah menghubungi Meta untuk klarifikasi lebih lanjut di sini, dan kami akan memperbarui cerita ini jika mereka membalas kami.
