2024.05.21. 10:50
Hátborzongató: a mesterséges intelligencia segítségével beszélgethetünk a halottainkkal
A közösségi médiában megőrzött szöveg- és hanganyagok alapján a mesterséges intelligencia képes „feltámasztani” halott szeretteinket, már létezik is ilyen szolgáltatás.
Illusztráció
Forrás: Shutterstock
Fotó: SomYuZu
Azok a mesterséges intelligencia- (MI-) alapú szolgáltatások, amelyek írásos, sőt, szóbeli kommunikációt tesznek lehetővé elveszített szeretteinkkel, lelki kárt okozhatnak, sőt, digitálisan „kísérthetik” az itt maradottakat, ha nem születnek erre vonatkozó biztonsági előírások – hívják fel a figyelmet a Cambridge-i Egyetem kutató.
A „holtbotok” vagy „gyászbotok” („deadbots”, „griefbots”) olyan mesterséges intelligencia-chatbotok, vagyis beszélgetőrobotok, amelyek a visszahagyott digitális lábnyomok alapján rekonstruálják és szimulálják a halottak nyelvi mintázatait és személyiségjegyeit. Egyes cégek máris kínálnak ilyen szolgáltatást, amely a „halál utáni jelenlét” egészen új formáját képviseli.
A cambridge-i Leverhulme Centre for the Future of Intelligence (LCFI, Az Intelligencia Jövője Leverhulme Kutatóközpont) háromféle lehetséges forgatókönyvét vázolja fel a születőben lévő „digitális túlvilág”-iparág alkalmazásainak, és rámutat arra a potenciális veszélyre, amelyet az MI általuk magas kockázatúnak tartott ágazata rejt, ha nem kellő gonddal tervezik - írja az Origo.
Nagy károkat okozhat a digitális feltámadás
A Philosophy and Technology című folyóiratban megjelent publikáció arra figyelmeztet: egyes vállalatok az elhunytakhoz való érzelmi kötődést kihasználva, bújtatottan reklámozhatnak termékeket, és nyomasztólag hathatnak az elhunytak gyermekeire azzal, hogy azt sugallják, eltávozott szülőjük még mindig itt van velük.
Ha valaki még életében feliratkozik a szolgáltatásra, hogy halála után szeretne digitálisan újjászületni, azzal olyan chatbotokat hívhat életre, amelyek digitálisan üldözik a hátrahagyott hozzátartozókat: a halott nevében szolgáltatások reklámjait küldözgethetik kéretlen értesítések és emlékeztetők formájában.
Még akik eleinte vigaszt találnak egy holtbottal való beszélgetésben, azok is egy idő után belefáradhatnak a napi szintű interakcióba, amely nehezen viselhető érzelmi terhet ró rájuk – fogalmaznak a kutatók –, mégis képtelenek lehetnek kilépni az MI csapdájából, hiszen elhunyt szerettük az, aki a szolgáltatásról szóló szerződést megkötötte.
![Woman,With,Child,At,Graveyard](https://cdnkpi.mediaworks.hu/2024/05/5GeJ5D9ViXWIHJnZgFs4X75sDA_hrqyKIt2tk2cud6k/fit/1200/800/no/1/aHR0cHM6Ly9jbXNjZG4uYXBwLmNvbnRlbnQucHJpdmF0ZS9jb250ZW50Lzk0Y2I0NTU1MmFjMDQ0ZWU5Yzg4MDJmOWU1MTM5ZmIx.jpg)
Forrás: Illusztráció / Shutterstock
„A generatív MI terén lezajlott robbanásszerű fejlődés eredményeképp most már szinte bárki, aki hozzáfér az internethez és van egy minimális felhasználói ismerete, képes lehet életre kelteni elhunyt szeretteit – mondta el Katarzyna Nowaczyk-Basińska, az LCFI kutatója és a tanulmány társszerzője. –
Ez a terület valóságos erkölcsi aknamező
Nagyon fontos például, hogy mindig az elhunyt személy emberi méltósága legyen az elsődleges szempont, és biztosítani kell, hogy erre ne telepedjenek rá a digitális túlvilág szolgáltatóinak üzleti érdekei. Az is megeshet továbbá, hogy valaki búcsúajándéknak hagy hátra egy MI-szimulációt a szerettei számára, akik viszont nincsenek felkészülve arra, hogy ilyen módon birkózzanak meg a gyászukkal. Minden szereplő jogait szem előtt kell tartanunk: az örökhagyók mint adatdonorok és az MI-túlvilággal érintkezésbe lépő gyászolók érdekeit egyaránt védenünk kell.”
Már most is léteznek olyan online platformok, amelyek csekély összeg ellenében digitálisan feltámasztják elhunyt szeretteinket. Ilyen például a „Project December” nevű online vállalkozás, amely az elérhető GPT-modelleket hívta segítségül, mielőtt kifejlesztette volna a saját rendszerét, vagy a „HereAfter” és a hozzá hasonló alkalmazások. Kínában is egyre-másra ütik fel a fejüket az ilyesfajta szolgáltatások.
Lehetetlen ígéretek
A cikkben felhozott egyik példa egy halálosan beteg nő történetét írja le, aki a nyolcéves fia számára hagy hátra egy holtbotot abban a reményben, hogy az segítséget jelent majd neki a gyász feldolgozásában. Bár a holtbot kezdetben csakugyan terápiás haszonnal bír, a mögötte álló mesterséges intelligencia kisvártatva zavarba ejtő válaszokat kezd generálni, ahogy próbál a gyerek igényeihez alkalmazkodni, például előrevetíti egy küszöbön álló személyes találkozás lehetőségég.
A kutatók életkorhoz kötnék a holtbotok használatát, és egyfajta „értelmes átláthatóságot” is szorgalmaznak, amely biztosítja azt, hogy a felhasználók mindig tudatában legyenek annak: csupán egy MI-robottal társalognak. Ez a jelzés hasonló lehet ahhoz, ami a videojátékokon figyelmeztet az epilepsziás roham veszélyére.
A cikkben tárgyalt másik hipotetikus forgatókönyvben egy idős személy titokban előjegyzi magát egy holtbotra, és letesz egy húszévnyi előfizetést abban a reményben, hogy a feltámasztott énje vigaszt jelent majd felnőtt gyermekei számára, és lehetővé teszi, hogy az unokái megismerjék őt.
A halála után a szolgáltatás a megállapodásnak megfelelően elindul. Az egyik felnőtt gyermeke nem kíván részt venni ebben, ezért a holtbot elárasztja őt e-mailekkel, amelyekben a halott szülő hangján szól hozzá. A másik gyermeke belemegy az interakcióba, amely azonban érzelmileg kimeríti, és bűntudata támad a holtbot balul alakult sorsa miatt. A holtbot működésének felfüggesztésével ugyanakkor megszegnék az elhunyt szülő és a szolgáltató között köttetett szerződést.
Szigorúbb szabályozásra lenne szükség
„Roppant lényeges, hogy a digitális túlvilág-szolgáltatások nemcsak az általuk újraalkotott örökhagyó, de a szimulációval kapcsolatba lépő utókor érdekeit és hozzájárulási jogát is tekintetbe vegyék – emelte ki Hollanek. –
Ezek a szolgáltatások jelentős érzelmi stresszt okozhatnak, hogyha az elhunytak ijesztően pontos MI-imitációi kísértetként üldözik a hátramaradottakat. Ennek súlyos pszichológiai romboló hatása lehet, különösen ebben az érzelmileg eleve terhelt időszakban.”
A kutatók üdvözlendőnek tartanák, ha a szolgáltatások tervezői beépítenének olyan lemondási lehetőségeket, amelyek révén a leendő felhasználók véget vethetnek a holtbotokkal kialakult kapcsolatuknak, méghozzá oly módon, hogy a búcsú ennek a felemás viszonynak az érzelmi lezárását jelentse. Nowaczyk-Basińska végül hozzátette: „Nagyon is ideje elgondolkodnunk azon, miként mérsékeljük a digitális halhatatlanság társadalmi és pszichológiai kockázatait, mert a technológia már készen áll.”
Bulvár-celeb
- Felrobbantotta a stúdiót Peter Srámek (videó)
- Lottósorsolás: lett egy telitalálatos joker, valaki ma este nagyon örül
- Hölgyek örömére: ez az 5 sztár ledobta a textilt, de úgy igazából
- Lélegzetelállító szobrot találtak az elsüllyedt Titanic mellett (videó)
- Till Tamás szülei teljesen összetörtek a DNS-vizsgálat után, a gyászukról beszéltek