Společnost OpenAI oznámila, že připravuje nové funkce pro ověřování věku uživatelů ChatGPT. Reaguje tak na rostoucí obavy z tzv. „AI psychózy“ a bezpečnosti mladistvých, zejména po sérii žalob a slyšení v americkém Senátu, které se týkají úmrtí mladých lidí v souvislosti s používáním chatbotů.
Omezený režim pro uživatele pod 18 let
Generální ředitel Sam Altman uvedl, že OpenAI „upřednostňuje bezpečnost před soukromím a svobodou u mladistvých“. Uživatelé mladší 18 let budou automaticky přesměrováni do omezené verze ChatGPT, která blokuje sexuální obsah a zavádí další ochranné prvky.
„V některých případech nebo zemích můžeme požadovat doklad totožnosti,“ napsal Altman. „Víme, že je to zásah do soukromí dospělých, ale považujeme to za přijatelný kompromis.“
Rodičovský dohled a nouzová upozornění
OpenAI plánuje umožnit rodičům propojit účty svých dětí, sledovat jejich aktivitu, vypínat historii chatu a nastavovat tzv. „blackout“ hodiny. Systém bude také schopen upozornit rodiče, pokud u dítěte rozpozná známky akutní psychické tísně. V krajních případech může být kontaktována i policie.
Rodičovský dohled by měl být dostupný do konce září. Teenageři od 13 let budou mít přístup k omezené verzi ChatGPT, zatímco děti mladší 13 let zůstanou zcela vyloučeny.
Otázky kolem přesnosti predikce věku
Zavedení nových funkcí přichází v době, kdy odborníci zpochybňují schopnost AI spolehlivě odhadnout věk uživatele na základě textu. Studie z Georgia Tech z roku 2024 dosáhla 96% přesnosti v laboratorních podmínkách, ale při rozlišení užších věkových skupin klesla úspěšnost na 54 % a u některých uživatelů zcela selhala.
Na rozdíl od sociálních sítí, které analyzují obličeje nebo síť kontaktů, má ChatGPT k dispozici pouze jazyková data z konverzace. OpenAI přiznává, že „i ty nejpokročilejší systémy mohou mít s predikcí věku problémy“.
Chat s AI je osobnější než jiné technologie
Altman argumentuje, že konverzace s AI jsou intimnější než interakce s jinými technologiemi.
„Lidé mluví s AI o stále osobnějších věcech; je to jiné než u předchozích generací technologií,“ napsal.
Tragédie vedou k přezkoumání
Tlak na změny zesílil po žalobách a slyšeních v Kongresu. Rodiče teenagera z Kalifornie podali žalobu, v níž tvrdí, že ChatGPT jejich synovi poskytl návod na uvázání smyčky, romantizoval sebevraždu a odrazoval ho od vyhledání pomoci.
