Podjetje OpenAI je napovedalo uvedbo starševskega nadzora za klepetalnega robota ChatGPT. Vse več je namreč zaskrbljenosti o vplivu orodij umetne inteligence na duševno zdravje mladih.

V tehnološkem podjetju s sedežem v ameriški zvezni državi Kalifornija so sporočili, da novost uvajajo ob prepoznavanju potreb družin za podporo pri "določanju zdravih smernic, ki ustrezajo najstnikovi enkratni stopnji razvoja", poroča Al Džazira.

V skladu s spremembami se bodo lahko starši s svojimi ChatGPT-profili povezali s takšnimi profili svojih otrok in izklopili določene možnosti, vključno s spominom in zgodovino klepeta. Lahko bodo tudi nadzirali, kako se klepetalni robot odziva na vprašanja prek pravil o obnašanju, primernem za določeno starost.

Starši bodo lahko tudi prejemali obvestila, ko bo klepetalni robot zaznal znake težav najstnikov, so sporočili v OpenAI-ju. Pri tem bodo upoštevali strokovnjake, namen te možnosti pa naj bi bil "podpreti zaupanje med starši in najstniki".

Spremembe naj bi začele delovati v naslednjem mesecu. "Ti koraki so zgolj začetek," so sporočili v podjetju.

Ta oznanitev sprememb se je zgodila teden dni po tem, ko je kalifornijski par vložil tožbo zoper OpenAI, ki mu očita odgovornost za samomor 16-letnega sina.

Kot navajata Matthew in Maria Raine, je ChatGPT potrjeval "najbolj škodljive in samouničujoče misli" njunega sina Adama, njegova smrt pa je bila "predvidljiv rezultat načrtnih izbir o zasnovi".

OpenAI v oznanitvi sprememb ni izrecno omenil primera samomora omenjenega 16-letnika.

Odvetnik para, ki toži kalifornijsko podjetje, Jay Edelson je dejal, da so načrtovane spremembe poskus OpenAI-ja, da "preusmeri razpravo".

A "v Adamovem primeru ne gre za to, da ChatGPT ni bil 'v pomoč', ampak gre za proizvod, ki je najstnika aktivno usmerjal v samomor", je dejal Edelson.

Starša tožita OpenAI in glavnega izvršnega direktorja tega podjetja Sama Altmana. Zahtevata nedoločeno odškodnino, sodišče pa pozivata, naj določi varnostne ukrepe, vključno s samodejnim končanjem pogovorov, ki vključujejo samopoškodovanje, in starševskim nadzorom za mladoletne uporabnike.

Da ljudje s hudimi duševnimi težavami uporabljajo orodja umetne inteligence, je razlog za vse večjo zaskrbljenost, saj ta orodja ti ljudje uporabljajo kot nadomestilo za pogovor s prijateljem ali terapevtom.

Vir: rtvslo.si