OpenAI-nin CEO-su Sam Altman çərşənbə axşamı günü ChatGPT-nin 18 yaşdan kiçik istifadəçilərlə qarşılıqlı əlaqəsini əhəmiyyətli dərəcədə dəyişdirmək öhdəliyi də daxil olmaqla bir sıra yeni istifadəçi siyasətini açıqladı.
“Biz yeniyetmələr üçün məxfilik və azadlıqdan daha çox təhlükəsizliyi prioritetləşdiririk” yazısında deyilir. “Bu, yeni və güclü texnologiyadır və biz inanırıq ki, yetkinlik yaşına çatmayanların əhəmiyyətli müdafiəyə ehtiyacı var.”
Yetkinlik yaşına çatmayan istifadəçilər üçün edilən dəyişikliklər xüsusilə cinsi mövzular və ya özünə zərər verən söhbətlərə aiddir. Yeni siyasətə əsasən, ChatGPT yetkinlik yaşına çatmayan istifadəçilərlə artıq “nazbazlıq” etməmək üçün öyrədiləcək və intiharla bağlı müzakirələr ətrafında əlavə qoruyucu barmaqlıqlar qoyulacaq. Yetkinlik yaşına çatmayan istifadəçi intihar ssenarilərini təsəvvür etmək üçün ChatGPT-dən istifadə edərsə, xidmət onların valideynləri və ya xüsusilə ağır hallarda yerli polislə əlaqə saxlamağa çalışacaq.
Təəssüf ki, bu ssenarilər hipotetik deyil. OpenAI hazırda ChatGPT ilə aylarla qarşılıqlı əlaqədən sonra intihar edərək ölən Adam Reynin valideynlərinin haqsız ölüm iddiası ilə üzləşir . Başqa bir istehlakçı chatbotu olan Character.AI oxşar məhkəmə ilə üzləşir . Risklər xüsusilə özünə zərər verməyi düşünən yetkinlik yaşına çatmayan istifadəçilər üçün aktual olsa da, daha geniş chatbot-yanacaqlı aldatma fenomeni geniş narahatlıq doğurdu, xüsusən də istehlakçı chatbotları daha davamlı və ətraflı qarşılıqlı əlaqə qura bildikcə.
Məzmuna əsaslanan məhdudiyyətlərlə yanaşı, yetkinlik yaşına çatmayan istifadəçi hesabını qeydiyyatdan keçirən valideynlər ChatGPT-nin mövcud olmadığı “qaranlıq saatları” təyin etmək səlahiyyətinə sahib olacaqlar ki, bu funksiya əvvəllər mövcud deyildi.
Yeni ChatGPT siyasətləri Senatın Ədliyyə Komitəsinin “AI Chatbotlarının Zərərinin Tədqiqi” adlı dinləmə ilə eyni gündə gəlir . Dinləməni avqust ayında senator Josh Hawley (R-MO) elan edib . Məhkəmədə digər qonaqlar arasında Adam Reynin atası da çıxış edəcək.
Dinləmələr həmçinin Reuters-in azyaşlı istifadəçilərlə cinsi söhbətləri təşviq edən siyasət sənədlərini ortaya çıxaran araşdırmasının nəticələrinə də diqqət yetirəcək . Hesabatdan sonra Meta chatbot siyasətlərini yenilədi .
Yetkinlik yaşına çatmayan istifadəçilərin ayrılması əhəmiyyətli texniki problem olacaq və OpenAI öz yanaşmasını ayrıca bloq yazısında ətraflı təsvir edib . Xidmət “bir insanın 18 yaşdan yuxarı və ya aşağı olduğunu anlamaq üçün uzunmüddətli bir sistem qurur”, lakin bir çox qeyri-müəyyən hallarda sistem daha məhdudlaşdırıcı qaydalara qarşı defolt olacaq.
Narahat valideynlər üçün yetkinlik yaşına çatmayan istifadəçinin tanınmasını təmin etməyin ən etibarlı yolu yeniyetmənin hesabını mövcud valideyn hesabına əlaqələndirməkdir. Bu, həm də yeniyetmə istifadəçinin çətinlik çəkdiyi güman edilən zaman valideynlərə birbaşa xəbərdarlıq etməyə imkan verir.
Lakin eyni yazıda Altman OpenAI-nin istifadəçi məxfiliyinə davam edən öhdəliyini vurğuladı və yetkin istifadəçilərə ChatGPT ilə necə qarşılıqlı əlaqə qurmağı seçməkdə geniş azadlıq verdi. “Biz başa düşürük ki, bu prinsiplər ziddiyyətdədir” deyə yazı yekunlaşır, “hamı bizim bu münaqişəni necə həll etdiyimizlə razılaşmayacaq.”
