Hirdetés

Milliók beszélik meg csevegőrobotokkal öngyilkossági gondolataikat, a chatbot téveszméket erősíthet meg

csevegőrobot

Csevegőrobot. Hetente több mint egymillió ChatGPT-felhasználó küld olyan üzenetet, amely „egyértelműen utal lehetséges öngyilkossági tervre vagy szándékra”

Fotó: Freepik.com

Az OpenAI becslései szerint hetente több mint egymillió ember fejez ki öngyilkossági gondolatokat, amikor a ChatGPT-vel cseveg.

Krónika

2025. október 28., 15:592025. október 28., 15:59

2025. október 28., 16:002025. október 28., 16:00

Az OpenAI amerikai mesterségesintelligencia-kutató és -fejlesztő vállalat közlése szerint hetente több mint egymillió ChatGPT-felhasználó küld olyan üzenetet, amely „egyértelműen utal lehetséges öngyilkossági tervre vagy szándékra”. A beszélgető program – vagyis a számítógépes rendszer, amely képes szöveges vagy hangalapú párbeszédet folytatni emberekkel – adatainak közzétételével a mesterséges intelligenciát fejlesztő óriáscég azt is közölte,

hogy AI milyen mértékben súlyosbíthatja a mentális egészségügyi problémákat. Az OpenAI azt is közölte, hogy egy adott héten az aktív felhasználók körülbelül 0,07%-a, vagyis a heti körülbelül 800 millió felhasználó közül körülbelül 560 000 mutatja „pszichózissal vagy mániával kapcsolatos mentális egészségügyi vészhelyzet lehetséges jeleit”.

Hirdetés

Az OpenAI figyelmeztetett, hogy ezeket a jeleket nem könnyű felismerni vagy értékelni, és hogy az elemzés előzetes értékelésnek tekinthető.
Mivel az OpenAI közzéteszi a zászlóshajó-termékéhez kapcsolódó, a mentális egészségügyi problémákra vonatkozó adatait, a vállalatot fokozott figyelemmel követik sokan amiatt a per miatt, amit egy tinédzser családja indított a cég ellen.

korábban írtuk

Ferenc pápa pufikabátban: egyre gyorsabban fejlődik a deepfake technológia, nem éri utol a jogalkotás
Ferenc pápa pufikabátban: egyre gyorsabban fejlődik a deepfake technológia, nem éri utol a jogalkotás

Egyre gyorsabban fejlődik a deepfake technológia, és ennek nemcsak pozitívak a következményei, hiszen számos társadalmi, gazdasági, politikai területen használhatják megtévesztésre.

A nagy visszhangot kiváltó pert azért indították, mert a tizenéves öngyilkosságot követett el a ChatGPT-vel való intenzív interakciót követően. A brit The Guardian – az egyik legismertebb és legtekintélyesebb angol nyelvű újság – szerint a múlt hónapban az amerikai Szövetségi Kereskedelmi Bizottság (FTC – amerikai kormányzati hatóság, amelynek feladata, hogy védje a fogyasztókat, és fenntartsa a tisztességes versenyt az üzleti életben) is széles körű vizsgálatot indított a mesterséges intelligenciával rendelkező csevegőrobotokat fejlesztő vállalatok ellen, az OpenAI-t is beleértve.

Azt akarják kideríteni, melyek a mesterséges intelligencia használatának gyermekekre és tinédzserekre gyakorolt negatív hatásai.

A legújabb frissítés után javult a felhasználók biztonsága, az OpenAI egy nemrégiben közzétett bejegyzésében azt állította, hogy a GPT-5 frissítés (az OpenAI által fejlesztett legújabb, 2025-ben bevezetett nyelvi mesterséges intelligencia modell, egy olyan fejlett AI, amely érti és generálni is tud az emberi nyelvet) javította a felhasználók biztonságát, miután több mint 1000, önkárosítással és öngyilkossággal kapcsolatos beszélgetést észleltek. Az OpenAI szerint a GPT-5 kibővítette a válsághelyzeti segélyvonalakhoz való hozzáférést, és emlékeztetőket vezetett be, hogy a felhasználók hosszú munkamenetek alatt szünetet tartsanak. A modell fejlesztése érdekében a vállalat 170 szakértőt vett fel a Global Network of Doctors elnevezésű egészségügyi szakértői csoportból, akik az elmúlt néhány hónapban részt vettek a kutatásban, értékelték a modell válaszainak biztonságosságát.

Pszichiáterek és pszichológusok több mint 1800, a modell által súlyos mentális egészségügyi helyzetben generált választ elemeztek.

A mesterséges intelligencia kutatói és a közegészségügyi szakemberek már régóta aggodalmukat fejezik ki a csevegőrobotok azon jellemzői miatt, hogy megerősítik a felhasználók döntéseit vagy téveszméit, még akkor is, ha azok károsak lehetnek.

A mentális egészségügyi szakértők arra is figyelmeztettek, hogy az AI chatbotok pszichológiai támogatásra való felhasználása hatással lehet a sebezhető felhasználókra.
A hónap elején Sam Altman, az OpenAI vezérigazgatója elmondta, hogy a vállalat előrelépést tett a mentális egészségügyi problémák kezelésében, és bejelentette, hogy az OpenAI enyhíti a korlátozásokat, és hamarosan lehetővé teszi a felnőttek számára erotikus tartalmak létrehozását.

korábban írtuk

Sepsiszentgyörgyi tudós hódít a mesterséges intelligenciával – Bedőházi Zsolt új szintre emeli a betegségek felismerését
Sepsiszentgyörgyi tudós hódít a mesterséges intelligenciával – Bedőházi Zsolt új szintre emeli a betegségek felismerését

Sepsiszentgyörgyről indult, Budapesten tanult, és mára a mesterséges intelligencia egyik ígéretes kutatója az orvosbiológiai alkalmazások terén. Bedőházi Zsolt ugyanis elérte, hogy algoritmusai képesek tuberkulózist kimutatni mikroszkópos képekből.

Hirdetés
szóljon hozzá! Hozzászólások

Hírlevél

Iratkozzon fel hírlevelünkre, hogy elsőként értesüljön a hírekről!

Hirdetés
Hirdetés

Ezek is érdekelhetik

Hirdetés

A rovat további cikkei

2025. október 27., hétfő

Lovas Manó Klub: játékos, élményalapú ismerkedés a lovakkal és önmagunkkal

A Lovas Manó Klub célja, hogy a gyermekekben belső egyensúly, önbizalom és érzelmi stabilitás alakuljon ki – miközben a lovaglás alapjait is szinte észrevétlenül elsajátítják – vallja Székely Anna ötletgazda, pszichológus.

Lovas Manó Klub: játékos, élményalapú ismerkedés a lovakkal és önmagunkkal
Hirdetés
2025. október 26., vasárnap

Ha halloween, akkor…? Erdélyi helyszínek vezetik egy rangos utazási magazin toplistáját

Erdélyi helyszínek vezetik a Lonely Planet utazási magazin idei halloweeni toplistáját, amin persze igazából nem is csodálkozunk, hiszen a Drakula-kultusz évről évre több turistát vonz messzi tájakról is.

Ha halloween, akkor…? Erdélyi helyszínek vezetik egy rangos utazási magazin toplistáját
2025. október 25., szombat

Hamarosan megkezdődik a világ leghosszabb függőhídjának építése Olaszországban

A Webuild olasz építőipari vállalat megkezdte a munkaerő-toborzást a világ leghosszabb függőhídjának építéséhez, amely Szicíliát fogja összekötni a szárazfölddel. A munkálatok még ebben az évben megkezdődnek.

Hamarosan megkezdődik a világ leghosszabb függőhídjának építése Olaszországban
2025. október 25., szombat

Mi a jó csipkebogyólekvár titka? – Kalotaszentkirályon jártunk utána

Ragyogó napsütésben főzték szombaton a csipkebogyólekvárt Kalotaszentkirályon, ahova számos környékbeli és anyaországi látogató érkezett a hétvégén. A Kolozs megyei településen ugyanis 18. alkalommal szervezték meg a csipkebogyó-fesztivált.

Mi a jó csipkebogyólekvár titka? – Kalotaszentkirályon jártunk utána
Hirdetés
2025. október 25., szombat

Az elmúlt 40 év leghidegebb tele jöhet

A meteorológusok szerint a sarkvidéki eredetű hideg légtömeg, az úgynevezett poláris örvény Európa felé tart, és a következő hetekben jelentős lehűlést hozhat.

Az elmúlt 40 év leghidegebb tele jöhet
Az elmúlt 40 év leghidegebb tele jöhet
2025. október 25., szombat

Az elmúlt 40 év leghidegebb tele jöhet

2025. október 24., péntek

Az operett ma is él: zsúfolásig tölti a termeket, jókedvre deríti a kortalan közönséget

Ha az operettet jól játsszák, szívvel-lélekkel és a megfelelő stílusban, akkor napjainkban is épp olyan érvényes és aktuális, mint amilyen az 1900-as évek elején volt – mondta a Krónikának Plesa Róbert kolozsvári énekművész.

Az operett ma is él: zsúfolásig tölti a termeket, jókedvre deríti a kortalan közönséget
2025. október 23., csütörtök

Felmérés: a romániaiak több mint fele hisz az összeesküvés-elméletekben, több mint 6 százalékuk fordult már javasasszonyhoz

A romániaiak egyharmada úgy véli, hogy a szerencsét bizonyos babonák betartásával befolyásolni lehet, ugyancsak egyharmaduk úgy gondolja, hogy az oltásokat a lakosság irányítására használják – derül ki egy közvélemény-kutatásból.

Felmérés: a romániaiak több mint fele hisz az összeesküvés-elméletekben, több mint 6 százalékuk fordult már javasasszonyhoz
Hirdetés
2025. október 22., szerda

Dokumentumfilm mutatja be az Erdélyi-szigethegység természeti szépségeit

A természet és az ember viszonyát boncolgató, érzékeny hangvételű dokumentumfilm-sorozat második része is az Erdélyi-szigethegység világába vezet. A Szendőfi Balázs rendezte Hegyizene 2 előbemutatóját október 23-án tartják a kolozsvári Művész moziban.

Dokumentumfilm mutatja be az Erdélyi-szigethegység természeti szépségeit
2025. október 19., vasárnap

Felbecsülhetetlen értékű kincseket raboltak a párizsi Louvre múzeumból

Több tolvaj betört a híres párizsi Louvre múzeumba az ablakon keresztül vasárnap reggel, és „felbecsülhetetlen értékű” ékszereket lopott el, mielőtt motorral elmenekült – közölte a francia kormány a Reuters hírügynökség szerint.

Felbecsülhetetlen értékű kincseket raboltak a párizsi Louvre múzeumból
2025. október 19., vasárnap

Az internet kedvencei: Erdély 10 legfelkapottabb turisztikai célpontja

Az elmúlt években Erdély turisztikai arculata látványosan átalakult. A természet közelségét, a történelmi városokat és a „fotózható” helyeket kereső turisták egyszerre fedezik fel újra a térséget. De mely helyszínek uralják ma az internetet?

Az internet kedvencei: Erdély 10 legfelkapottabb turisztikai célpontja
Hirdetés
Hirdetés