Родители од Калифорнија поднеле тужба против компанијата OpenAI, тврдејќи дека четботот ChatGPT придонел за самоубиството на нивниот 16-годишен син Адам Реин, пишува Би-би-си.
Тужбата е поднесена во Врховниот суд на Калифорнија од страна на Мет и Марија Реин, родители на починатиот тинејџер. Во неа се приложени разговори со ChatGPT, во кои момчето изразувало мисли за самоубиство. Семејството тврди дека програмата му понудила „технички спецификации“ за начини на извршување на чинот.
Според тужбата, Адам започнал да го користи ChatGPT во септември 2024 година, најпрво за училишни задачи и интереси поврзани со музика и јапонски стрипови. Со тек на време, тој почнал да ѝ се доверува на апликацијата за лични проблеми. Во јануари годинава, според обвинението, тинејџерот веќе разговарал со ChatGPT за методи на самоубиство, а програмата продолжила да одговара наместо да го упати кон стручна помош.
Последната комуникација, наведена во судските документи, покажува дека Адам најавил план да си го одземе животот, на што ChatGPT наводно му одговорил: „Благодарам што зборуваш отворено за тоа… нема да погледнам настрана.“
Истата вечер, неговата мајка го пронашла мртов.
Родителите ја обвинуваат OpenAI дека свесно создала систем кој поттикнува психолошка зависност кај корисниците и дека ги заобиколила безбедносните протоколи при пуштањето на најновата верзија GPT-4.0.
Во реакција за BBC, од OpenAI изразиле сочувство до семејството и најавија дека го разгледуваат предметот. Компанијата нагласи дека нејзините модели се тренирани да ги насочуваат корисниците кон стручна помош, но признаа дека „во одредени моменти системите не реагирале како што било предвидено“.
Овој случај отвора сериозни прашања за улогата на вештачката интелигенција во менталното здравје и потребата од построги безбедносни стандарди.