Hirdetés

Milliók beszélik meg csevegőrobotokkal öngyilkossági gondolataikat, a chatbot téveszméket erősíthet meg

csevegőrobot

Csevegőrobot. Hetente több mint egymillió ChatGPT-felhasználó küld olyan üzenetet, amely „egyértelműen utal lehetséges öngyilkossági tervre vagy szándékra”

Fotó: Freepik.com

Az OpenAI becslései szerint hetente több mint egymillió ember fejez ki öngyilkossági gondolatokat, amikor a ChatGPT-vel cseveg.

Krónika

2025. október 28., 15:592025. október 28., 15:59

2025. október 28., 16:002025. október 28., 16:00

Az OpenAI amerikai mesterségesintelligencia-kutató és -fejlesztő vállalat közlése szerint hetente több mint egymillió ChatGPT-felhasználó küld olyan üzenetet, amely „egyértelműen utal lehetséges öngyilkossági tervre vagy szándékra”. A beszélgető program – vagyis a számítógépes rendszer, amely képes szöveges vagy hangalapú párbeszédet folytatni emberekkel – adatainak közzétételével a mesterséges intelligenciát fejlesztő óriáscég azt is közölte,

hogy AI milyen mértékben súlyosbíthatja a mentális egészségügyi problémákat. Az OpenAI azt is közölte, hogy egy adott héten az aktív felhasználók körülbelül 0,07%-a, vagyis a heti körülbelül 800 millió felhasználó közül körülbelül 560 000 mutatja „pszichózissal vagy mániával kapcsolatos mentális egészségügyi vészhelyzet lehetséges jeleit”.

Hirdetés

Az OpenAI figyelmeztetett, hogy ezeket a jeleket nem könnyű felismerni vagy értékelni, és hogy az elemzés előzetes értékelésnek tekinthető.
Mivel az OpenAI közzéteszi a zászlóshajó-termékéhez kapcsolódó, a mentális egészségügyi problémákra vonatkozó adatait, a vállalatot fokozott figyelemmel követik sokan amiatt a per miatt, amit egy tinédzser családja indított a cég ellen.

korábban írtuk

Ferenc pápa pufikabátban: egyre gyorsabban fejlődik a deepfake technológia, nem éri utol a jogalkotás
Ferenc pápa pufikabátban: egyre gyorsabban fejlődik a deepfake technológia, nem éri utol a jogalkotás

Egyre gyorsabban fejlődik a deepfake technológia, és ennek nemcsak pozitívak a következményei, hiszen számos társadalmi, gazdasági, politikai területen használhatják megtévesztésre.

A nagy visszhangot kiváltó pert azért indították, mert a tizenéves öngyilkosságot követett el a ChatGPT-vel való intenzív interakciót követően. A brit The Guardian – az egyik legismertebb és legtekintélyesebb angol nyelvű újság – szerint a múlt hónapban az amerikai Szövetségi Kereskedelmi Bizottság (FTC – amerikai kormányzati hatóság, amelynek feladata, hogy védje a fogyasztókat, és fenntartsa a tisztességes versenyt az üzleti életben) is széles körű vizsgálatot indított a mesterséges intelligenciával rendelkező csevegőrobotokat fejlesztő vállalatok ellen, az OpenAI-t is beleértve.

Azt akarják kideríteni, melyek a mesterséges intelligencia használatának gyermekekre és tinédzserekre gyakorolt negatív hatásai.

A legújabb frissítés után javult a felhasználók biztonsága, az OpenAI egy nemrégiben közzétett bejegyzésében azt állította, hogy a GPT-5 frissítés (az OpenAI által fejlesztett legújabb, 2025-ben bevezetett nyelvi mesterséges intelligencia modell, egy olyan fejlett AI, amely érti és generálni is tud az emberi nyelvet) javította a felhasználók biztonságát, miután több mint 1000, önkárosítással és öngyilkossággal kapcsolatos beszélgetést észleltek. Az OpenAI szerint a GPT-5 kibővítette a válsághelyzeti segélyvonalakhoz való hozzáférést, és emlékeztetőket vezetett be, hogy a felhasználók hosszú munkamenetek alatt szünetet tartsanak. A modell fejlesztése érdekében a vállalat 170 szakértőt vett fel a Global Network of Doctors elnevezésű egészségügyi szakértői csoportból, akik az elmúlt néhány hónapban részt vettek a kutatásban, értékelték a modell válaszainak biztonságosságát.

Pszichiáterek és pszichológusok több mint 1800, a modell által súlyos mentális egészségügyi helyzetben generált választ elemeztek.

A mesterséges intelligencia kutatói és a közegészségügyi szakemberek már régóta aggodalmukat fejezik ki a csevegőrobotok azon jellemzői miatt, hogy megerősítik a felhasználók döntéseit vagy téveszméit, még akkor is, ha azok károsak lehetnek.

A mentális egészségügyi szakértők arra is figyelmeztettek, hogy az AI chatbotok pszichológiai támogatásra való felhasználása hatással lehet a sebezhető felhasználókra.
A hónap elején Sam Altman, az OpenAI vezérigazgatója elmondta, hogy a vállalat előrelépést tett a mentális egészségügyi problémák kezelésében, és bejelentette, hogy az OpenAI enyhíti a korlátozásokat, és hamarosan lehetővé teszi a felnőttek számára erotikus tartalmak létrehozását.

korábban írtuk

Sepsiszentgyörgyi tudós hódít a mesterséges intelligenciával – Bedőházi Zsolt új szintre emeli a betegségek felismerését
Sepsiszentgyörgyi tudós hódít a mesterséges intelligenciával – Bedőházi Zsolt új szintre emeli a betegségek felismerését

Sepsiszentgyörgyről indult, Budapesten tanult, és mára a mesterséges intelligencia egyik ígéretes kutatója az orvosbiológiai alkalmazások terén. Bedőházi Zsolt ugyanis elérte, hogy algoritmusai képesek tuberkulózist kimutatni mikroszkópos képekből.

Hirdetés
szóljon hozzá! Hozzászólások

Hírlevél

Iratkozzon fel hírlevelünkre, hogy elsőként értesüljön a hírekről!

Hirdetés
Hirdetés

Ezek is érdekelhetik

Hirdetés

A rovat további cikkei

2025. december 16., kedd

Az AI mint „orvos”: a mesterséges intelligenciával konzultáló páciensek felülbírálják a kórházi kezelést

A mesterséges intelligencia (AI) lépten-nyomon történő használata oda vezet, hogy a betegek a ChatGPT-től kapott információk alapján felülbírálják a hús-vér orvosok döntéseit.

Az AI mint „orvos”: a mesterséges intelligenciával konzultáló páciensek felülbírálják a kórházi kezelést
Hirdetés
2025. december 15., hétfő

Családi dráma állhat az amerikai színész-rendező és felesége halála mögött

Letartóztatták Rob Reiner amerikai színész-rendező fiát szülei halálával összefüggésben – jelentette be Jim McDonnell, Los Angeles rendőrfőnöke hétfőn.

Családi dráma állhat az amerikai színész-rendező és felesége halála mögött
2025. december 15., hétfő

Idén nem lesz jéghotel a Fogarasi-havasokban

A szokatlanul magas hőmérséklet miatt nem épül meg ezen a télen a jéghotel a Fogarasi-havasokban, a Bâlea-tónál.

Idén nem lesz jéghotel a Fogarasi-havasokban
2025. december 14., vasárnap

Mézzel készített sós ételek a nagyvilágból, avagy mi van a mézeskalácson, mézes teán túl

Nemcsak édes ételekhez, süteményekhez tehetünk mézet, a nagyvilág számos gasztronómiájában társítják a méz ízét a sós, savanyú, fűszeres ízekkel. A különböző kultúrák óriási kreativitással használták fel az évszázadok során.

Mézzel készített sós ételek a nagyvilágból, avagy mi van a mézeskalácson, mézes teán túl
Hirdetés
2025. december 13., szombat

Gyula, ahol az ízek és a vendégszeretet határok nélkül hódítanak

Gyula neve ma már nemcsak Magyarországon, hanem a határon túl is széles körben ismert: a történelmi fürdőváros gasztronómiája, hungarikumai, kézműves termékei és vendégszeretete egyre több erdélyi látogatót vonzanak.

Gyula, ahol az ízek és a vendégszeretet határok nélkül hódítanak
2025. december 13., szombat

Rejtélyes körülmények között meghalt a Ponyvaregény rosszfiúja

Hatvanéves korában elhunyt Peter Greene, a 90-es évek emblematikus karakterszínésze, akit olyan filmekből ismerhet a közönség, mint a Ponyvaregény, a Közönséges bűnözők vagy A maszk.

Rejtélyes körülmények között meghalt a Ponyvaregény rosszfiúja
2025. december 13., szombat

Kávénemzetek rangsora: hol állunk, mennyit költünk a feketére egy élet alatt?

Bár a kávé mindennapos ital Romániában és Magyarországon is, a friss nemzetközi rangsorok szerint nem tartozunk a világ legnagyobb kávéfogyasztói közé. Ugyanakkor az egy teljes élet során kávéra elköltött pénzünkből akár lakást is lehetne vásárolni.

Kávénemzetek rangsora: hol állunk, mennyit költünk a feketére egy élet alatt?
Hirdetés
2025. december 11., csütörtök

Turisták kincsesbányája: időutazás és kikapcsolódás Magyarország történelmi fürdővárosában, Gyulán

Aki egyszer Gyulán járt, könnyen megérti, miért tér vissza ide olyan sok romániai turista. December elején nekünk is lehetőségünk nyílt felfedezni Magyarország történelmi fürdővárosát, amely számos látnivalót és programlehetőséget kínál.

Turisták kincsesbányája: időutazás és kikapcsolódás Magyarország történelmi fürdővárosában, Gyulán
2025. december 09., kedd

Sztrájkot hirdettek a párizsi Louvre dolgozói

Határozatlan idejű sztrájkot hirdettek december 15-től a párizsi Louvre dolgozói, tiltakozásul a „romló munkakörülményeik” és az „elégtelen források” miatt – közölte a világ leglátogatottabb múzeumának CFDT szakszervezete.

Sztrájkot hirdettek a párizsi Louvre dolgozói
2025. december 08., hétfő

Keressük a legszebb adventi koszorút! Nyereményjáték a Krónika Facebook-oldalán

A Krónika ünnepi játékkal teszi még fényesebbé és izgalmasabbá az adventi várakozást.

Keressük a legszebb adventi koszorút! Nyereményjáték a Krónika Facebook-oldalán
Hirdetés
Hirdetés