Google har sparkat Blake Lemoine från företagets ansvariga AI-division efter att han tidigare varit avstängd. Han slog rubrikerna i juni för påståenden om att LaMDA-språkmodellen hade fått ett eget liv och var självmedveten.
Lemoines avgång togs upp av webbplatsen Big Technology på grundval av dess eget opublicerade podcastavsnitt där ingenjören berättade om sin senaste sparkning från Google. Företaget har bekräftat hans avgång och även lämnat ett detaljerat svar, med Blake-sektionen som visas nedan:
"Om en anställd delar oro över vårt arbete, som Blake gjorde, granskar vi dem noggrant. Vi hittade Blakes påståenden om att LaMDA är medvetet ogrundat och tillbringade månader med att försöka klargöra det för honom. Dessa samtal var en del av den öppna kulturen som hjälper oss att förnya på ett ansvarsfullt sätt. Det är beklagligt att Blake, trots ett långvarigt engagemang för detta ämne, fortfarande valde att bryta mot ihärdiga tydliga anställnings- och datasäkerhetspolicyer, inklusive behovet av att skydda produktinformation. Vi kommer att fortsätta vår noggranna utveckling av språkmodeller och vi önskar Blake det bästa."
Det här numret startade i juni och kretsar kring LaMDA, en språk- eller konversationsmodell tränad med betydande mängder text. LaMDA skrev i den bland annat att man såg sig själv som en person och ville ha samma rättigheter som andra Google-anställda. Tillsammans med en kollega kom Lemoine fram till att det fanns självkännedom. De två Google-anställda försökte internt övertyga företagets vicepresident och chefen för dess avdelning för ansvarsfull innovation, men de avvisade påståendena.
Slutligen började Lemoine publicera om detta i form av loggar över chattar han hade med LaMDA. Till exempel publicerade han en "intervju" med LaMDA, i själva verket en sammansättning av flera chattsessioner. Han vände sig också till The Washington Post med påståendet att språkmodellen hade blivit självmedveten. Genom att bryta mot tystnadsplikten stängdes ingenjören snart av.
Google presenterade sin språkmodell för dialogapplikationer, eller LaMDA, på sin I/O 2021-konferens. Språkmodellen gör det möjligt att ha flytande konversationer om många ämnen, liknande hur människor samtalar med varandra online. LaMDA är utbildad på stora mängder data för sådana samtal.