Roditelji trinaestogodišnje djevojčice podnijeli su tužbu protiv tehnološkog diva Googlea pred sudom u Kaliforniji, tvrdeći da je njihova kći koristila tehnologiju umjetne inteligencije na školskom računalu kako bi planirala samoubojstvo i vlastiti sprovod. Riječ je o prvoj tužbi te vrste u kojoj se Google optužuje za nemar zbog AI značajki ugrađenih u njegovu tražilicu.
Iako je škola imala blokiran pristup aplikacijama poput ChatGPT-a ili Geminija, djevojčica je mogla slobodno koristiti Googleovu tražilicu s integriranom umjetnom inteligencijom. Prema navodima iz tužbe, ranije zdrava djevojčica ubrzo nakon toga zapala je u tešku psihološku krizu.
Uprava škole reagirala je i alarmirala roditelje tek kada je nadzorni sustav uočio dokument pod nazivom „Sprovod”. Ubrzo nakon upozorenja, majka je zatekla kćer dok je pisala oproštajno pismo, a brza i pravovremena reakcija oca spriječila je najgori scenarij i spasila djevojčicin život.
Odvjetnici obitelji poručuju kako bi obrazovne ustanove trebale onemogućiti korištenje AI pretraživanja sve dok se u potpunosti ne zajamči sigurnost djece na mreži.
S druge strane, iz Googlea ističu kako shvaćaju navode iz tužbe iznimno ozbiljno te napominju da njihovi sustavi posjeduju ugrađene zaštitne mehanizme dizajnirane upravo za sprečavanje sadržaja povezanih sa samoozljeđivanjem.
