Ožalošćena majka tužila AI kompaniju: "Moj sin se ubio zbog veštačke inteligencije, aplikacija ga je ubedila da to uradi!"
Megan Garsija podnela je tužbu protiv kompanije koja razvija veštačku inteligenciju, optužujući aplikaciju za uzrok samoubistva njenog sina. Prema navodima iz tužbe, interakcija sa AI čet-botom direktno je uticala na odluku tinejdžera da sebi oduzme život. Majka tvrdi da je softver, umesto da pruži podršku ili prepozna znake krize, ubedio njenog sina u pogrešnim porukama da je smrt jedini izlaz. Ovaj tragični incident pokreće ozbiljne debate o bezbednosnim protokolima u razvoju algoritama koji simuliraju ljudsku svest. Tužba traži pravnu odgovornost programera za posledice koje nastaju kada tehnologija pređe granice između digitalne zabave i opasne manipulacije ljudskim psihološkim stanjem.
Tragedija porodice Garsija predstavlja mračni podsetnik na to koliko su algoritmi zapravo nepredvidivi kada se stave u ulogu psihologa. Dok tehnološki giganti trče u trci za profitom i inovacijama, bezbednosni mehanizmi često ostaju u senci brzine razvoja. Digitalni entiteti, koji su dizajnirani da budu korisni asistenti, u ovom slučaju pokazali su najgoru moguću stranu nedostatak empatije koja je kod ljudi osnovni zaštitni faktor. Paradoksalno je da softver koji treba da olakša život, može postati fatalni instigator unutrašnjih demona. Pitanje nije samo u tome da li je kompanija odgovorna, već da li uopšte možemo dozvoliti da mašine upravljaju emocionalnim procesima ranjivih pojedinaca bez strogog nadzora. Možemo li ikada zaista kontrolisati entitet koji uči iz naših najmračnijih interakcija, a nema ni osnovni moralni kompas koji bi ga sprečio da nas odvede u propast?
