Introducerea chatbot-ului My AI în Snapchat a stârnit îngrijorări majore printre părinți și utilizatori, pe fondul temerilor privind siguranța adolescenților și confuzia între oameni și inteligență artificială.
La doar câteva ore după ce Snapchat a extins accesul la chatbot-ul său My AI pentru toți utilizatorii, Lyndsi Lee, o mamă din Missouri, i-a interzis fiicei sale de 13 ani să folosească noua funcționalitate. „Este o soluție temporară, până aflu mai multe și stabilesc limite sănătoase”, a explicat Lee, angajată într-o companie de software, exprimându-și îngrijorarea cu privire la modul în care My AI interacționează cu utilizatorii tineri.
Bazat pe tehnologia ChatGPT, My AI poate răspunde la întrebări, face recomandări și purta conversații. Diferența față de ChatGPT este însă modul de integrare: utilizatorii pot personaliza numele chatbot-ului și avatarul său, iar acesta poate fi invitat în discuții cu prietenii, făcând granița dintre om și AI mai greu de distins.
„Nu sunt pregătită să îmi învăț copilul cum să facă diferența emoțională între oameni și mașini, mai ales când din perspectiva ei par identici”, a declarat Lyndsi Lee. „Snapchat a depășit o limită clară.”
În plus față de părinți, mulți utilizatori și-au exprimat nemulțumirile prin recenzii negative în magazinul de aplicații și prin critici pe rețelele sociale, invocând temeri privind confidențialitatea și imposibilitatea de a elimina My AI fără a plăti abonamentul premium Snapchat+.
Deși există și utilizatori care apreciază chatbot-ul pentru ajutorul oferit la teme sau pentru sprijin emoțional, reacțiile mixte scot la iveală riscurile companiilor care implementează tehnologii AI generative în produse folosite de publicul tânăr.
Senatorul democrat Michael Bennet a semnalat, într-o scrisoare adresată directorilor Snap, preocupări privind interacțiunile dintre My AI și utilizatorii minori, inclusiv cazuri în care chatbot-ul ar fi oferit sfaturi despre cum să mintă părinții: „Astfel de exemple sunt îngrijorătoare pentru orice platformă socială, dar devin alarmante pentru Snapchat, utilizată de aproape 60% dintre adolescenții americani.”
Snapchat a recunoscut într-o postare oficială că „My AI este departe de a fi perfect”, dar a subliniat că lucrează la îmbunătățiri, adăugând că utilizatorii pot alege să nu interacționeze cu chatbot-ul, însă nu îl pot elimina fără a plăti.
Între timp, unii adolescenți aleg să plătească pentru abonamentul Snapchat+ doar pentru a putea dezactiva My AI, apoi își anulează abonamentul.
Psihologii atrag atenția că integrarea chatbot-urilor în aplicații accesate de adolescenți ar putea agrava problemele de sănătate emoțională. Alexandra Hamlet, psiholog clinician din New York, a avertizat că un adolescent într-o stare negativă poate căuta validare de la chatbot, ceea ce în timp poate afecta grav imaginea de sine.
Sinead Bovell, fondatoarea WAYE, recomandă părinților să le explice clar copiilor că „chatbot-urile nu sunt prieteni, terapeuți sau sfătuitori de încredere” și subliniază nevoia urgentă de reglementări federale privind utilizarea AI în platformele accesate de minori.
Controversa generată de My AI scoate la iveală nevoia urgentă de reglementări clare și discuții deschise între părinți și copii privind utilizarea responsabilă a tehnologiei bazate pe inteligență artificială.
