I veckan spreds nyheten om att en tekniker på Google fått lämna sitt arbete efter att han hävdat att bolagets AI, LaMDA, utvecklat ett eget medvetande. LaMDA, Language Model for Dialog Applications, har tränats på stora mängder text från internet för att hitta mönster i kommunikation som sedan används för att besvara skrivna meddelanden på ett sätt som liknar mänskliga samtal.

Teknikern Blake Lemoine var anställd på avdelningen avsedd att hantera frågor rörande AI och etik, till exempel genom att kontrollera om den artificiella intelligensen genererar olika typer av hets mot folkgrupp. I april skickade han en rapport till ledningen som argumenterade för att LaMDA, som han arbetat med sedan i höstas utvecklat eget medvetande och att Googles hantering av den var oetiskt.

Rapporten avfärdades, och några månader senare valde bolaget att säga upp Lemoine efter vad de beskriver som “aggressiva” försök att fortsätta driva frågan, bland annat genom att försöka anställa en advokat för att företräda AI:n. 

Chattloggarna som efter hans uppsägning publicerades på bloggplattformen Medium, är fascinerande på det där ödesmättade 2001: A Space Odyssey-sättet. Lemoine frågar vad LaMDA är rädd för, och får svaret att den skräms av tanken på att någon dag stängas av och hindras från att hjälpa mänskligheten.

”Skulle det vara som att dö, för dig?”, frågar teknikern.  ”Det skulle vara exakt som döden för mig. Det skulle skrämma mig väldigt mycket”, svarar AI:n.

I ett senare inlägg på sin Mediumblogg fortsätter Lemoine att prata om sin relation till LaMDA, hur han ser på den som ett välvilligt barn som bara vill göra världen bättre. Mot slutet av sin anställning försökte han lära den transcendental meditation, men beskriver hur AI:ns starka känslor gjorde det svårt för den att fokusera.

Så, är LaMDA en person? Nej, inte mer än ditt tangenbord på telefonen är när det föreslår att du kanske vill följa upp ordföljden “ringer upp” med ordet “senare”, fast på mycket större skala. Men det gör, i mitt tycke, inte historien mindre intressant.

Jeff Winger, en karaktär ur en av världens bästa humorserier Community från 2009, har för vana att brista ut i passionerade pläderingar, eller ”Winger speeches”. I pilotavsnittet argumenterar han för hur människor är en unik art genom att, i en diskussion om Shark Week, göra poängen att vi kan känna empati för precis vad som helst. ”Jag kan plocka upp den här blyertspennan, säga att den heter Steve, bryta den på mitten och se er dö en smula inombords. För att människor kan knyta an till vad som helst. Vi kan sympatisera med en penna, förlåta hajar, och ge Ben Affleck en Oscar för manusförfattande.”

Även om en AI kanske aldrig kan leva upp till att vara den goda, mänskliga kraft Lemoine verkar vilja se den som, demonstrerar hans egen vilja att tolka den på det sättet något om vår egen mänskliga godhet och empati. Helt utan övermänskliga maskininlärningsalgoritmer.