Google telah memecat Blake Lemoine dari divisi AI Bertanggung Jawab perusahaan setelah sebelumnya diskors. Dia menjadi berita utama pada bulan Juni untuk klaim bahwa model bahasa LaMDA telah mengambil kehidupan sendiri dan sadar diri.
Pengunduran diri Lemoine diangkat oleh situs web Big Technology berdasarkan episode podcastnya sendiri yang tidak dipublikasikan di mana insinyur tersebut berbicara tentang pemecatannya baru-baru ini dari Google. Perusahaan telah mengkonfirmasi kepergiannya dan juga memberikan tanggapan terperinci, dengan bagian Blake ditunjukkan di bawah ini:
“Jika seorang karyawan berbagi kekhawatiran tentang pekerjaan kami, seperti yang dilakukan Blake, kami meninjaunya secara ekstensif. Kami menemukan klaim Blake bahwa LaMDA sengaja tidak berdasar dan menghabiskan waktu berbulan-bulan untuk menjelaskannya kepadanya. Percakapan ini adalah bagian dari budaya terbuka yang membantu kami berinovasi secara bertanggung jawab. Sangat disesalkan bahwa, terlepas dari komitmen lama terhadap subjek ini, Blake masih memilih untuk melanggar kebijakan ketenagakerjaan dan keamanan data yang jelas, termasuk kebutuhan untuk melindungi informasi produk. Kami akan melanjutkan pengembangan model bahasa yang hati-hati dan kami berharap yang terbaik untuk Blake.”
Masalah ini dimulai pada bulan Juni dan berkisar pada LaMDA, model bahasa atau percakapan yang dilatih dengan sejumlah besar teks. LaMDA menulis di dalamnya, antara lain, bahwa ia melihat dirinya sebagai pribadi dan ingin memiliki hak yang sama dengan karyawan Google lainnya. Bersama seorang rekan, Lemoine sampai pada kesimpulan bahwa ada kesadaran diri. Kedua karyawan Google secara internal mencoba meyakinkan wakil presiden perusahaan dan kepala departemen Inovasi Bertanggung Jawab, tetapi mereka menolak klaim tersebut.
Akhirnya, Lemoine mulai menerbitkan tentang ini dalam bentuk log obrolan yang dia lakukan dengan LaMDA. Misalnya, ia menerbitkan 'wawancara' dengan LaMDA, yang sebenarnya merupakan gabungan dari beberapa sesi obrolan. Dia juga mendekati The Washington Post dengan klaim bahwa model bahasa telah menjadi sadar diri. Dengan melanggar kewajiban kerahasiaan, insinyur segera diskors.
Google meluncurkan Model Bahasa untuk Aplikasi Dialog, atau LaMDA, pada konferensi I/O 2021. Model bahasa memungkinkan percakapan lancar tentang banyak topik, mirip dengan cara orang berkomunikasi satu sama lain secara online. LaMDA dilatih pada sejumlah besar data untuk percakapan semacam itu.