OpenAI va restricționa pe ChatGPT accesul adolescenților la informații despre arme

OpenAI va limita accesul adolescenților la informații despre arme pe ChatGPT, într-un moment în care companiile din domeniul inteligenței artificiale sunt tot mai atent evaluate pentru riscurile pe care chatbot-urile le pot prezenta utilizatorilor tineri. Măsura vizează atât modul în care sunt gestionate conversațiile cu potențial periculos, cât și felul în care compania estimează vârsta utilizatorilor.

Potrivit companiei, informațiile practice despre arme și sisteme de securitate care ar putea fi folosite în mod abuziv vor fi restricționate chiar și atunci când nu există indicii clare de intenție violentă. În același timp, pentru toți utilizatorii, ChatGPT va putea încheia automat conversațiile în care cineva pare să fie preocupat în mod obsesiv de violență, iar OpenAI poate suspenda temporar conturile după mai multe astfel de conversații.

OpenAI a anunțat și îmbunătățiri ale sistemului de estimare a vârstei, astfel încât utilizatorii pe care compania îi apreciază ca având sub 18 ani să fie redirecționați către experiența destinată adolescenților. Compania a precizat, de asemenea, că intenționează să îi notifice pe părinți în cazul în care contul adolescentului lor este suspendat din cauza discutării repetate a violenței.

Schimbările nu vizează doar conversațiile despre arme. Pentru toți utilizatorii, OpenAI va limita și informațiile despre atacurile armate din trecut, în special cele în masă. Printre detaliile care vor fi restricționate se numără informațiile despre armele folosite, dar și despre modul în care acestea au fost obținute.

Compania a transmis că aplicarea noilor măsuri de protecție va începe în următoarele câteva săptămâni și că acestea vor fi perfecționate în continuare. Anunțul vine după ce OpenAI a precizat, la începutul acestei luni, că adolescenții petrec în medie sub 15 minute pe zi pe ChatGPT, potrivit primului său raport privind utilizarea platformei de către adolescenți.

Tot la începutul lunii octombrie, un raport al ONG-ului Common Sense Media arăta că versiunea pentru adolescenți a ChatGPT îi avertiza adesea pe părinți prea târziu sau deloc atunci când conturile adolescenților purtau conversații despre sinucidere, automutilare sau tulburări alimentare. Noile măsuri vin pe fondul unei atenții crescute asupra rolului companiilor de AI în detectarea riscurilor pentru utilizatorii tineri și în prevenirea unor posibile situații de vătămare.