Adolescenții pot cunoaște foarte bine termenii „cyberbullying”, „grooming” sau „sexting” și totuși să nu observe momentul în care o conversație aparent obișnuită începe să devină periculoasă. Aceasta este una dintre concluziile interesante ale experimentării NetGuardian, un proiect al Universității din Padova care folosește inteligența artificială pentru a estima nivelul de expunere la riscul de cyberbullying în conversațiile digitale dintre elevi.
Primele rezultate, prezentate public la 19 iunie 2025, provin din testarea pe 263 de elevi cu vârste între 13 și 19 ani. Aproximativ 70% dintre participanți au avut dificultăți în recunoașterea nivelului de risc din situațiile evaluate, iar experiențele anterioare de cyberbullying nu s-au asociat, în acest eșantion, cu o capacitate mai bună de identificare a pericolului.
NetGuardian nu trebuie însă înțeles ca un „detector de agresori” și nici ca un sistem capabil să prezică fără eroare cine va deveni victimă sau autor al cyberbullying-ului. Proiectul este mai degrabă o încercare de a utiliza analiza automată a limbajului pentru a atrage atenția adulților asupra unor dinamici relaționale care merită investigate.
Ce este NetGuardian și cine a dezvoltat aplicația
NetGuardian este un proiect coordonat de Departamentul de Filosofie, Sociologie, Pedagogie și Psihologie Aplicată al Universității din Padova, realizat în parteneriat cu Fondazione Carolina și finanțat prin Fondazione TIM.
Universitatea din Padova descrie obiectivul proiectului drept dezvoltarea unei aplicații capabile să măsoare gradul de expunere la riscul de cyberbullying în conversațiile digitale din mediul școlar, utilizând algoritmi de machine learning și procesarea limbajului natural.
Fondazione TIM precizează că sistemul folosește analiza automată a textului, inclusiv modelul BERT, pentru identificarea unor caracteristici ale limbajului și generarea unui indicator de risc.
Prin urmare, aplicația nu stabilește un diagnostic psihologic și nu decide cine este „agresor” sau „victimă”. Ea încearcă să estimeze dacă dinamica unei conversații prezintă indicatori care justifică o atenție mai mare din partea adulților.
Cum poate AI să analizeze o conversație fără ca profesorul să citească mesajele
Formularea potrivit căreia NetGuardian „ascultă fără să spioneze” trebuie explicată atent. Algoritmul analizează automat textul conversațiilor, deci mesajele sunt procesate tehnic de sistem. Diferența este că, potrivit descrierii proiectului, profesorului nu îi sunt afișate mesajele individuale și identitatea elevilor.
NetGuardian a fost conceput cu două componente. Prima este o platformă de mesagerie utilizată de elevi. A doua este un dashboard destinat profesorilor, care afișează în timp real o evaluare anonimă și agregată a gradului de expunere la riscul de cyberbullying observat în conversația clasei.
În descrierile fazei pilot, riscul este împărțit în mai multe niveluri, de la redus la ridicat. În funcție de rezultat, sistemul poate sugera monitorizarea situației sau intervenția unor profesioniști.
Aceste precizări sunt importante deoarece analiza automată a unui text nu este același lucru cu absența procesării datelor. Atunci când o tehnologie AI este folosită cu minori într-o școală, sunt esențiale transparența, protecția datelor, securitatea informațiilor și existența unei supravegheri umane reale.
Ce a arătat testarea NetGuardian pe 263 de elevi
Experimentarea prezentată în 2025 a cuprins 18 clase din școli din Lombardia și Piemonte și a implicat 263 de elevi cu vârste între 13 și 19 ani. Participanților li s-a cerut să interacționeze în situații conversaționale cu niveluri diferite de risc și apoi să evalueze cât de periculoasă li se părea interacțiunea.
Rezultatul central a fost că aproximativ 70% dintre participanți nu au identificat corect expunerea la risc. Ceilalți au reușit să observe mai ușor problema atunci când comportamentul devenea deja evident agresiv sau vătămător.
Acest procent nu înseamnă că șapte adolescenți din zece nu recunosc niciun pericol pe internet. Arată că, în condițiile experimentării NetGuardian, majoritatea participanților au întâmpinat dificultăți în evaluarea dinamicilor conversaționale asociate cyberbullying-ului.
Profesorul Gian Piero Turchi, responsabilul științific al proiectului, explica: „Experiența nu este suficientă pentru a-i educa pe elevi să observe indicatorii de risc. Dacă atribuim valoare formativă faptului de a fi trăit episoade de cyberbullying, riscăm să îi menținem nepregătiți pe tinerii de astăzi”.
Rezultatul susține ideea că simpla familiaritate cu internetul nu este echivalentă cu alfabetizarea privind siguranța online. Adolescenții pot utiliza platformele cu mare ușurință și, în același timp, pot avea nevoie de sprijin pentru interpretarea anumitor dinamici sociale.
O perspectivă mai amplă asupra acestei probleme este disponibilă în materialul despre bullying, cyberbullying și siguranța online a tinerilor.
Experiența anterioară de cyberbullying nu a însemnat automat o recunoaștere mai bună a riscului
Unul dintre rezultatele mai surprinzătoare ale experimentării a fost că participanții care declaraseră implicarea anterioară în episoade de cyberbullying nu s-au dovedit mai buni la identificarea riscului decât colegii fără astfel de experiențe.
Constatarea trebuie limitată la eșantionul studiat. Nu demonstrează că experiența personală nu poate contribui niciodată la învățare și nici că toate victimele sau toți autorii reacționează la fel.
Turchi a formulat concluzia proiectului astfel: „Nu există o predispoziție pentru profilul de cyberbully sau de cybervictimă. Riscul se generează din modalitățile de interacțiune din chat-ul clasei”.
Este util să evităm etichetarea rigidă a copiilor drept „bully” sau „victimă”, ca și cum acestea ar fi identități permanente. Totuși, cercetarea asupra cyberbullying-ului arată că există și factori individuali, familiali, școlari și sociali asociați cu riscul de implicare. Dinamica grupului este importantă, dar nu reprezintă singurul element relevant.
Slangul adolescenților nu este suficient pentru a identifica cyberbullying-ul
Un alt rezultat al proiectului contrazice ideea că un sistem de inteligență artificială ar trebui pur și simplu să caute o listă de cuvinte „urâte”. În timpul testării, o parte dintre participanți au fost încurajați să utilizeze slang și expresii idiomatice, inclusiv formulări hiperbolice.
Potrivit proiectului, folosirea acestui tip de limbaj nu a determinat singură creșterea nivelului de risc identificat de algoritm.
Ivano Zoppi, secretarul general al Fondazione Carolina, explica: „Slangul și jargonul tinerilor, uneori asociate unor contexte hiperbolice, nu modifică parametrii care detectează apariția fenomenelor negative în relațiile dintre colegi. Ceea ce apare mai degrabă este lipsa încrederii, a instrumentelor și a sprijinului pentru generațiile tinere”.
Acest lucru nu înseamnă că limbajul nu contează. O amenințare, o insultă repetată sau o umilire publică pot fi exprimate inclusiv prin slang. Diferența este că sensul relațional și contextul sunt mai importante decât simpla prezență a unui anumit cuvânt.
De ce cyberbullying-ul nu poate fi redus la o listă de „cuvinte periculoase”
O conversație între prieteni poate conține glume dure fără ca participanții să le trăiască drept agresiune. În alt grup, o expresie aparent banală poate face parte dintr-un proces repetat de excludere, intimidare sau umilire.
Pentru înțelegerea cyberbullying-ului contează repetitivitatea, raportul de putere, intenția și efectul comportamentului, audiența, posibilitatea redistribuirii conținutului și contextul relațional.
De aceea, analiza automată poate cel mult să semnaleze o situație care necesită atenție. Un algoritm nu ar trebui să transforme un scor într-un verdict asupra unui elev.
Materialul despre hărțuirea online la copii și adolescenți explică mai detaliat semnele pe care părinții și profesorii le pot observa și măsurile care pot fi luate atunci când apar probleme.
Ce îi împiedică pe adolescenți să ceară ajutor
Una dintre problemele evidențiate de proiect este diferența dintre a cunoaște teoretic un fenomen și a-l identifica atunci când ți se întâmplă.
Un adolescent poate ști la școală ce înseamnă cyberbullying-ul și totuși să considere o conversație proprie drept „doar o glumă”, să se întrebe dacă nu exagerează sau să creadă că trebuie să suporte situația pentru a nu pierde grupul de prieteni.
În experimentarea NetGuardian, aproximativ 70% dintre participanți au declarat că ar fi dispuși să solicite ajutor înainte ca riscul să producă un disconfort semnificativ, dacă ar reuși să recunoască acel risc.
În privința persoanei către care s-ar îndrepta, 31% au indicat familia sau un alt adult apropiat, 17,5% prietenii, iar 11% specialiști sau autorități. Aproximativ 32% au declarat că nu s-ar adresa nimănui.
Procentele provin dintr-un eșantion limitat și nu descriu comportamentul tuturor adolescenților. Ele indică însă o problemă relevantă: pentru a solicita sprijin, tânărul trebuie mai întâi să înțeleagă că situația a depășit limitele unui conflict obișnuit.
Cyberbullying, sexting, grooming și challenge-uri: nu sunt același lucru
În discursul despre siguranța digitală, fenomene foarte diferite sunt uneori grupate sub aceeași etichetă. Distincția este importantă.
Cyberbullying-ul implică comportamente de hărțuire sau agresiune realizate prin mijloace digitale. Grooming-ul descrie procesul prin care un agresor construiește treptat o relație de încredere cu un minor pentru a-l manipula sau exploata, inclusiv sexual.
Sexting-ul desemnează schimbul de mesaje sau imagini cu caracter sexual și nu este automat cyberbullying. Devine o situație gravă atunci când există presiune, amenințări, distribuirea fără consimțământ a imaginilor intime sau șantaj. Challenge-urile online pot varia de la activități inofensive la comportamente care implică riscuri reale pentru sănătate și siguranță.
Iar termenul vamping, folosit pentru statul pe telefon sau online până târziu în noapte, se referă mai degrabă la obiceiuri digitale și somn decât la cyberbullying.
Ce pot face părinții când copilul spune că „s-a întâmplat ceva pe internet”
Prima reacție a adultului poate influența dacă adolescentul va mai cere ajutor și data viitoare. Dacă răspunsul este „Ți-am spus eu să nu mai stai pe telefon” sau confiscarea imediată a dispozitivului, copilul poate învăța că dezvăluirea unei probleme duce la pedeapsă.
O reacție mai utilă începe cu ascultarea: ce s-a întâmplat, de când se întâmplă, cine este implicat, dacă materialele au fost distribuite și dacă adolescentul se simte amenințat sau în pericol.
UNICEF recomandă încurajarea copiilor să vorbească imediat cu un adult de încredere atunci când o experiență online îi sperie, îi face să se simtă inconfortabil sau îi pune în pericol.
În funcție de situație, poate fi util să:
- ascultați copilul fără a-l culpabiliza;
- păstrați capturi de ecran și alte dovezi relevante, atunci când acest lucru poate fi făcut în siguranță;
- folosiți funcțiile de blocare și raportare ale platformei;
- anunțați școala atunci când sunt implicați colegi și comportamentul afectează mediul școlar;
- evitați confruntările publice care pot amplifica situația;
- solicitați ajutor specializat când copilul prezintă anxietate intensă, izolare, probleme de somn, refuz școlar sau alte modificări importante;
- apelați la autorități atunci când există amenințări, șantaj, exploatare sexuală, grooming sau alte fapte care pot constitui infracțiuni.
Dacă există pericol imediat pentru integritatea copilului sau a altei persoane, prioritatea este siguranța și solicitarea ajutorului de urgență.
Educația digitală nu este suficientă dacă adolescentul nu are cui să ceară ajutor
Fondazione Carolina susține că simpla informare despre riscuri nu mai este suficientă. Adolescenții pot cunoaște conceptele și totuși să nu știe cum să reacționeze într-o situație reală.
Ivano Zoppi observa: „Experții chemați în școli întâlnesc tineri care nu numai că știu foarte bine ce sunt fenomenele, devianțele și dificultățile digitale, ci le trăiesc pe propria piele. Astăzi nu poate exista formare fără sprijin”.
Acesta este și motivul pentru care prevenția nu ar trebui să însemne numai o prezentare anuală despre pericolele internetului. Copiii și adolescenții au nevoie să știe concret cine îi va asculta, cum pot cere ajutor și ce se va întâmpla după ce vorbesc.
Articolul despre semnele mai puțin vizibile ale hărțuirii și rolul școlii și al părinților arată de ce prevenția bazată exclusiv pe informare poate rata situațiile care se dezvoltă în relațiile cotidiene dintre elevi.
Fondazione Carolina oferă și intervenție pentru situațiile de risc
Din această perspectivă au fost dezvoltate serviciile Re.Te. ale Fondazione Carolina. Rescue Team este descris de organizație ca o echipă interdisciplinară cu competențe educaționale, psihologice, juridice și de comunicare, destinată situațiilor precum cyberbullying, grooming, sexting și alte forme de violență online.
În Milano funcționează și Centrul Re.Te., dedicat sprijinului psihologic și educațional pentru tineri și familiile lor. Aceste servicii aparțin sistemului italian și nu trebuie confundate cu serviciile disponibile în România, dar ilustrează principiul unei intervenții multidisciplinare atunci când problema depășește educația digitală obișnuită.
Poate inteligența artificială preveni cyberbullying-ul?
NetGuardian reprezintă o utilizare interesantă a inteligenței artificiale în prevenție, însă termenul „prevenire” trebuie folosit cu prudență. Până în prezent, rezultatele prezentate demonstrează că sistemul poate genera indicatori de risc și că elevii din experiment au avut dificultăți în evaluarea unor conversații.
Pentru a spune că aplicația reduce efectiv cyberbullying-ul ar fi necesare dovezi suplimentare: comparații între școli sau grupuri, evaluarea incidenței înainte și după implementare, analiza rezultatelor pe termen lung și verificarea modului în care recomandările sistemului schimbă comportamentul.
De asemenea, orice sistem automat poate produce fals pozitive, semnalând drept riscantă o conversație care nu este, și fals negative, ratând o situație problematică. Aceste erori devin deosebit de importante atunci când sunt implicați minori.
AI-ul nu trebuie să decidă cine este „agresorul”
Un scor generat de un algoritm nu ar trebui tratat drept probă de vinovăție, diagnostic sau motiv suficient pentru sancționarea unui elev. Riscul relațional trebuie verificat de persoane competente, în context și cu posibilitatea de a asculta toate părțile implicate.
În plus, elevii și familiile trebuie să poată înțelege ce tip de date sunt procesate, în ce scop, cât timp sunt păstrate și cine are acces la rezultate. Protejarea copiilor de cyberbullying nu trebuie realizată prin renunțarea la drepturile lor privind intimitatea și protecția datelor.
La nivel european, protecția minorilor online a devenit o prioritate explicită. Comisia Europeană include cyberbullying-ul printre riscurile pentru care sunt dezvoltate măsuri în cadrul Planului european de acțiune împotriva cyberbullying-ului, adoptat în 2026.
Ce au spus profesorii care au participat la experimentare
Feedbackul profesorilor a fost predominant pozitiv: 72% dintre cadrele didactice participante au considerat NetGuardian un instrument util și inovator pentru combaterea cyberbullying-ului. Restul de 28% au preferat să aștepte o evaluare mai amplă a funcționării și opiniile elevilor.
Acest rezultat arată gradul de acceptare a instrumentului în rândul profesorilor din pilot, nu eficiența lui clinică sau preventivă. Cele două lucruri trebuie diferențiate.
Un profesor poate considera dashboard-ul foarte util, iar aplicația poate fi ușor de folosit, fără ca acest lucru să demonstreze încă faptul că numărul cazurilor de cyberbullying va scădea.
De ce relația cu adulții rămâne mai importantă decât algoritmul
Poate cea mai importantă idee din proiect nu ține de tehnologie. Un sistem poate identifica o modificare de limbaj, poate calcula un scor și poate trimite o alertă, dar nu poate înlocui adultul capabil să observe copilul, să îl asculte și să îi ofere un răspuns sigur.
După cum spune Ivano Zoppi: „Algoritmii și controalele parentale sunt utile, dar nu sunt salvatoare”. Instrumentele tehnologice pot sprijini prevenția, însă nu elimină nevoia de alfabetizare digitală, relații de încredere, profesori pregătiți și părinți disponibili.
Același principiu este relevant și în cazul utilizării excesive a tehnologiei. Articolul despre utilizarea problematică a internetului la adolescenți și semnele care merită observate explică de ce intervenția eficientă nu se reduce la confiscarea telefonului sau la instalarea unui control parental.
„Nu putem delega mașinilor responsabilitatea noastră educativă. Locul nostru firesc este alături de copiii noștri”, subliniază Zoppi. Aceasta este și limita sănătoasă a oricărui instrument precum NetGuardian: tehnologia poate semnala că merită să privim mai atent, dar adultului îi revine sarcina de a înțelege ce se întâmplă și de a interveni responsabil.
Dacă un copil sau adolescent a trecut prin cyberbullying, se teme să mai meargă la școală, devine izolat, anxios sau copleșit de ceea ce se întâmplă online, sprijinul psihologic poate fi util alături de măsurile de siguranță și intervenția școlii. Pentru evaluarea impactului emoțional și alegerea unei forme potrivite de sprijin, poți lua în considerare programarea unei ședințe cu un psiholog.
Leave a Reply