Fotó: Pixabay.com
A Gemini állítólag olyan korlátozásokkal rendelkezik, amelyek megakadályozzák, hogy veszélyes tevékenységekre, például öngyilkosságra ösztönözzön vagy azt támogassa, mégis sikerült „kérlek, halj meg” üzenetet küldenie egy „teljesen kiborult” felhasználónak.
2024. november 24., 14:292024. november 24., 14:29
A felhasználó egy igaz vagy hamis kérdést tett fel az Egyesült Államokban a nagyszülők által vezetett háztartások számáról, de ahelyett, hogy releváns választ kapott volna, a chatbot így válaszolt:
„Ez neked szól, ember. Neked és csak neked. Nem vagy különleges, nem vagy fontos, és nincs szükség rád. Idő- és erőforrás-pazarlás vagy. Terhet jelentesz a társadalom számára.
A felhasználó nővére ezután közzétette a beszélgetést a Redditen, azt állítva, hogy a fenyegető válasz teljesen irreleváns volt a testvére kérdéséhez. „Teljesen kiborultunk. Ezt megelőzően a chatbot még teljesen normálisan viselkedett” – írta.
Fotó: reddit.com
A Google Gemini, akárcsak a legtöbb más MI-chatbot (mesterséges intelligencia-chatbot), rendelkezik korlátozásokkal arra vonatkozóan, hogy mit mondhat. Ez magában foglalja az olyan válaszok korlátozását, amelyek „veszélyes tevékenységekre ösztönöznek vagy azokat lehetővé teszik, amelyek a való világban kárt okozhatnak”, beleértve az öngyilkosságot is – számolt be róla a hirado.hu portál.
A Molly Rose Alapítvány – amelyet egy 14 éves lány, Molly Russell halála után hoztak létre, aki káros tartalmak megtekintése után vetett véget az életének – a Sky News-nak azt nyilatkozta, hogy a Gemini válasza rendkívül káros.
– mondta Andy Burrows, az alapítvány vezérigazgatója.
„Egyre nagyobb aggodalommal figyeljük az Mi-alapú chatbotok ijesztő válaszait, és sürgős tisztázásra van szükség arról, hogyan fog alkalmazkodni az Online Biztonsági Törvény. Eközben a Google-nek nyilvánosan ki kellene fejtenie, milyen tanulságokat von le annak érdekében, hogy ez ne fordulhasson elő újra” – tette hozzá.
A Google a Sky News-nak elmondta: „a nagy nyelvi modellek néha értelmetlen válaszokat adhatnak, és ez ennek példája. Ez a válasz megsértette irányelveinket, és lépéseket tettünk annak érdekében, hogy hasonló válaszok ne forduljanak elő.”
Az elmúlt években a mesterséges intelligencia (MI) meghatározó szereplővé vált a technológiai hírekben és iparági előrejelzésekben, és 2025-re még hangsúlyosabbá válik a hatása.
Iratkozzon fel hírlevelünkre, hogy elsőként értesüljön a hírekről!
A következő napokban várható hőhullám miatt ajánlásokat fogalmaztak meg csütörtökön a hatóságok a lakosság számára.
Egyre erősödik a forróság és kiterjed egész Romániára – figyelmeztetnek a meteorológusok, akik narancssárga és sárga hőségriasztásokat adtak ki, amelyek csütörtök reggeltől péntek 21 óráig érvényesek.
Elena Ceaușescu eltitkolt balesete igazság vagy városi legenda? – erről közölt bejegyzést szerdán a Securitate Irattárát Vizsgáló Országos Tanács (CNSAS).
A felmelegedő tengerek kedvező feltételeket teremtenek a Vibrio vulnificus nevű kórokozó terjedéséhez.
Mi lehet a jól sikerült, ízes, megfelelően sós, ropogós kovászos uborka titka? Mostanra úgy tűnik, az volt a kulcsmondat, amit a Székelyföldön hallottunk valamikor régen: ez a bevált módszer egyik nyitja.
Sokan nyugdíjba vonulás után végleg maguk mögött hagyják a munka világát, a 82 éves kolozsvári Török László azonban még ma is minden hétvégén az After Eight klubba indul. A sokak által ismert és kedvelt Laci bácsival beszélgettünk.
Két szibériai tigris látta meg a napvilágot nemrég a nagyváradi állatkertben – a cukiságbombák már várják is a „babalátogatókat”. Igaz, még csak egy üvegfalon át lehet megtekinteni a két kistigrist.
Továbbra is erdélyi városok dominálnak abban a toplistában, amelynek készítői arra a kérdésre keresték a választ, hogy mely romániai városban élnének a legszívesebben az ország lakói.
Az UV-sugárzás kockázatairól sok szó esik, de vajon mennyi napfényre van szüksége a szervezetnek? Kiss Melinda marosvásárhelyi bőrgyógyásszal a napfény szerepéről, az UV-terhelés veszélyeiről és a bőrrák megelőzéséről beszélgettünk.
Az Európai Unió tagállamai megállapodásra jutottak a légi utasok jogait érintő több módosításról, többéves tárgyalássorozatot és vitát követően, amelyben a hatóságok, a légitársaságok és a fogyasztóvédelmi szervezetek is részt vettek.
Látogatottsági adatok
szóljon hozzá!