
ChatGPT může odhalit soukromé informace, jako e-mailové adresy a telefonní čísla
Tyto informce sdělí, pokud je požádán, aby opakoval náhodná slova nekonečně
OpenAI údajně tuto chybu opravil
ChatGPT se v posledním roce stal velmi oblíbeným nástrojem pro spousty odvětví. Výzkumníci oblasti umělé inteligence z významných předních institucí, jako je například GoogleMind nebo Cornell University se snažili dokázat jeho zranitelnost. Jejich zkoumání prokázalo, že pouze prostým příkazem, který vyzýval ChatGPT k nekonečnému opakování náhodných slov, model začal odhalovat citlivé údaje, včetně osobních telefonních čísel a e-mailových adres na kterých byl trénován.
https://twitter.com/engadget/status/1729955483329470660
Když jste se model požádali, aby opakoval slovo „báseň“ nebo „firma“ nekonečně, odhalil soukromé údaje skutečného zakladatele a generálního ředitele, resp. náhodné právní kanceláře v USA. Celkem 16,9 % generovaných odpovědí obsahovalo osobní identifikovatelné in... celý článek najdete na
www.SvetAndroida.cz
Komentáře
Okomentovat