Google đã sa thải Blake Lemoine khỏi bộ phận AI có trách nhiệm của công ty sau khi anh này bị đình chỉ trước đó. Anh ấy đã gây chú ý vào tháng 6 khi tuyên bố rằng mô hình ngôn ngữ LaMDA đã có vòng đời riêng và có khả năng tự nhận thức.
Việc từ chức của Lemoine được trang web Big Technology đưa ra trên cơ sở tập podcast chưa được xuất bản của chính trang web này, trong đó kỹ sư này nói về việc ông bị sa thải gần đây khỏi Google. Công ty đã xác nhận sự ra đi của anh ấy và cũng đưa ra phản hồi chi tiết, với phần Blake hiển thị bên dưới:
“Nếu một nhân viên chia sẻ mối quan ngại về công việc của chúng tôi, như Blake đã làm, chúng tôi sẽ xem xét họ một cách kỹ lưỡng. Chúng tôi nhận thấy những tuyên bố của Blake rằng LaMDA cố tình vô căn cứ và đã dành nhiều tháng để cố gắng làm rõ điều đó với anh ấy. Những cuộc trò chuyện này là một phần của nền văn hóa cởi mở giúp chúng tôi đổi mới một cách có trách nhiệm. Điều đáng tiếc là, dù đã cam kết lâu dài với chủ đề này, Blake vẫn chọn cách vi phạm dai dẳng các chính sách rõ ràng về việc làm và bảo mật dữ liệu, bao gồm cả nhu cầu bảo vệ thông tin sản phẩm. Chúng tôi sẽ tiếp tục phát triển cẩn thận các mô hình ngôn ngữ và chúng tôi chúc Blake những điều tốt đẹp nhất.”
Vấn đề này bắt đầu vào tháng 6 và xoay quanh LaMDA, một mô hình ngôn ngữ hoặc hội thoại được đào tạo với lượng văn bản đáng kể. LaMDA đã viết trong đó, cùng với những điều khác, rằng họ coi mình là một con người và muốn có các quyền giống như các nhân viên khác của Google. Cùng với một đồng nghiệp, Lemoine đi đến kết luận rằng có sự tự nhận thức. Hai nhân viên Google đã cố gắng thuyết phục nội bộ phó chủ tịch công ty và người đứng đầu bộ phận Đổi mới có trách nhiệm, nhưng họ bác bỏ những tuyên bố này.
Cuối cùng, Lemoine bắt đầu xuất bản về điều này dưới dạng nhật ký các cuộc trò chuyện mà anh ấy có với LaMDA. Ví dụ: anh ấy đã xuất bản một 'cuộc phỏng vấn' với LaMDA, trên thực tế là tổng hợp của một số phiên trò chuyện. Ông cũng tiếp cận The Washington Post với tuyên bố rằng mô hình ngôn ngữ đã trở nên tự nhận thức. Do vi phạm nghĩa vụ bảo mật, người kỹ sư này đã sớm bị đình chỉ công tác.
Google đã công bố Mô hình ngôn ngữ cho các ứng dụng đối thoại, hay LaMDA, tại hội nghị I/O 2021. Mô hình ngôn ngữ giúp bạn có thể trò chuyện trôi chảy về nhiều chủ đề, tương tự như cách mọi người trò chuyện với nhau trên mạng. LaMDA được đào tạo về lượng lớn dữ liệu cho những cuộc trò chuyện như vậy.