A Whisper nevű, mesterséges intelligenciával működő beszédfelismerő és -átíró alkalmazás, amelyet az OpenAI technológiai óriás fejlesztett, hajlamos arra, hogy a szövegbe teljesen kitalált mondatokat szúrjon be – közli az N1info.rs hírportál.
Több mint tíz szoftvermérnök, fejlesztő és akadémiai kutató arról számolt be, hogy ez az új eszköz, amelyet az OpenAI bevezetésekor úgy reklámozott, mint amely emberi pontossággal működik, olyan kitalált elemeket ad a szövegekhez, mint rasszista megjegyzések, erőszakos retorika, sőt akár kitalált orvosi kezeléseket is. A szakértők szerint ezek a kitalációk problémásak, mivel a Whispert széles körben használják az iparágakban világszerte interjúk fordítására és átiratára, népszerű fogyasztói technológiákban szöveg létrehozására és videók feliratozására.
Különösen aggasztónak tartják, hogy az egészségügyi központok sietnek az eszköz használatával a betegek és az orvosok közötti beszélgetések átírására, annak ellenére, hogy az OpenAI figyelmeztetett, hogy ezt az eszközt nem szabad magas kockázatú területeken használni.
Ilyen hibák súlyos következményekkel járhatnak, különösen a kórházakban – mondta Alondra Nelson, aki tavalyig vezette a Fehér Ház Tudományos és Technológiai Irodáját.
A Whispert feliratkészítésre is használják a siket és nagyothalló emberek számára, akik különösen ki vannak téve a hibás transzkripciók kockázatának, mivel nincs módjuk felismerni a szövegbe rejtett kitalációkat – mondta Christian Vogler, aki maga is siket, és a Gallaudet Egyetemen vezeti a technológiai hozzáférés programját.
Az OpenAI szóvivője azt mondta, hogy a vállalat folyamatosan vizsgálja, hogyan csökkenthetők a hibák, és értékeli a kutatók megállapításait, hozzátéve, hogy az OpenAI a modellfrissítésekbe beépíti a visszajelzéseket.
Bár a legtöbb fejlesztő feltételezi, hogy a transzkripciós eszközök hibásan írnak ki szavakat vagy más hibákat ejtenek, mérnökök és kutatók elmondták, hogy még nem láttak olyan más AI-alapú transzkripciós eszközt, amely annyira „hallucinálna”, mint a Whisper.
Nyitókép: Illusztráció/Pixabay.com
