Imaginează-ți că primești un mesaj de la un număr necunoscut. În el e un videoclip cu copilul tău, sau cu cineva care arată exact ca el, într-o situație neașteptată. Videoclipul e fals. Creat cu AI în câteva minute, dintr-o fotografie de pe Instagram.
Deepfake-urile nu mai sunt un subiect de nișă pentru pasionații de tehnologie. Sunt un pericol real, accesibil oricui, care vizează și copii și adolescenți. Tehnologia există de câteva ani, dar până recent era accesibilă doar specialiștilor cu echipamente performante. Recent, situația s-a schimbat radical. Asta e vestea proastă. Deepfake sexual este unul dintre cele mai grave și frecvente în cazurile care implică minori.
Voice cloning înseamnă clonarea vocii. Cu 3 până la 10 secunde de voce înregistrată, AI poate reproduce perfect vocea oricui. Adulții sunt și ei vizați. Prezența masivă pe rețelele sociale e primul motiv. Vulnerabilitatea emoțională e al doilea motiv. Adolescenții sunt mai susceptibili la șantaj emoțional, la rușine și la tăcere. Un adult poate raporta mai ușor la poliție. Lipsa educației digitale completează tabloul. Conform Internet Watch Foundation (2024), numărul de imagini deepfake sexual cu minori identificate online a crescut cu 380% față de 2022.
- Agresorul colectează fotografii publice ale victimei de pe rețelele sociale, câteva sunt suficiente. Folosind o aplicație AI, generează imagini sau videoclipuri false cu victima în ipostaze intime.
- Victima, speriată și rușinată, plătește sau cedează. Le confirmă agresorului că victima e vulnerabilă și dispusă să cedeze. Toate platformele majore au proceduri specifice.
- Agresorul extrage câteva secunde de voce dintr-un videoclip public al copilului sau al părintelui, clonează vocea cu AI și generează un apel audio fals. „Mama” sună copilul că e în necaz și are nevoie de bani urgent sau copilul sună părintele.
- Mai puțin sofisticat, dar extrem de dăunător. Un coleg plasează fața victimei pe un videoclip ridicol sau umilitor și îl distribuie în grupul clasei sau pe rețelele sociale.
Clipitul e primul lucru de urmărit - prea rar, prea des sau în momente ciudate față de contextul conversației. Marginile feței par adesea ușor neclare sau au urme vizibile la mișcare bruscă. Iluminarea feței nu se potrivește cu restul imaginii - fața pare mai luminată sau mai întunecată decât ar trebui. Dinții și urechile sunt adesea prost redați în deepfake-uri. Calitatea sunetului e neuniformă - poți auzi sunete metalice, ecouri ciudate sau pauze nenaturale care nu apar în vorbirea reală a persoanei. Pronunția poate fi ușor diferită față de vocea reală, mai ales la cuvintele cu grupuri consonantice complexe.
Nu distribui conținutul, chiar dacă ți se pare important să îl arăți altora. Verifici sursa - de unde vine videoclipul și cine l-a trimis. Cauți originalul - există un videoclip real al persoanei din care ar putea proveni? Folosești instrumente de detecție - platforme precum Deepware Scanner pot analiza videoclipuri suspecte.
Cadrul legal evoluează, dar rămâne în urmă față de tehnologie. Codul Penal acoperă parțial situațiile generate de deepfake prin mai multe articole. Șantajul (art. 207) se aplică când deepfake-ul e folosit pentru extorcare. Hărțuirea (art. 208) acoperă situațiile de intimidare repetată. Pornografia infantilă (art.
Reacția din primele ore contează enorm. Prima reacție a multor părinți e să caute imediat videoclipul, să sune la școală sau să confrunte agresorul. Ascultă tot ce îți spune copilul, fără întreruperi și fără judecată. Screenshot-uri la toate mesajele de amenințare, la profilul agresorului, la orice comunicare. Dacă e vorba de sextortion deepfake, plata nu oprește amenințările. Le confirmă agresorului că victima e vulnerabilă și dispusă să cedeze. Toate platformele majore au proceduri specifice. Dacă există amenințări sau conținut sexual cu minori, contactează DIICOT sau 112.
Victimele deepfake resimt efecte similare celor ale abuzului real: rușine, anxietate, depresie, izolare. Un psiholog specializat poate face diferența pe termen lung. Și spune-i copilului clar și repetat: nu e vina lui. Protecția 100% nu există. Profiluri private pe toate rețelele sociale este cel mai simplu și mai eficient pas. Un agresor nu poate genera un deepfake convingător fără suficiente fotografii și videoclipuri ale victimei.
Vorbește cu copilul despre deepfake azi, nu când apare un caz în știri. Nu ca o prelegere, ci ca o conversație normală. Explică ce sunt, cum funcționează și ce face dacă vede ceva suspect sau dacă cineva îl amenință. O singură propoziție poate schimba totul: „Dacă primești vreodată ceva de genul ăsta, vii imediat la mine. Nu e vina ta. Activează setările de confidențialitate pe toate platformele. Profesorii sunt adesea primii adulți care observă că ceva s-a schimbat la un elev: retragere bruscă, anxietate, refuz de a merge la școală. Introduce subiectul la clasă: nu ca lecție de morală, ci ca realitate digitală. Creează un climat în care elevii vorbesc. Un elev care știe că profesorul lui nu judecă și acționează constructiv va raporta mult mai repede o situație îngrijorătoare. Cunoaște procedura școlii pentru incidente digitale.
Poate fi creat un deepfake dintr-o singură fotografie? Da. Tehnologia actuală poate genera videoclipuri deepfake convingătoare chiar și dintr-o singură fotografie statică. Cu cât mai multe fotografii și videoclipuri sunt disponibile public, cu atât rezultatul e mai realist. Este ilegal să creezi un deepfake cu un minor? În România, generarea de conținut sexual cu minori, inclusiv conținut generat de AI, este ilegală. Deepfake-urile non-sexuale intră sub incidența articolelor privind hărțuirea și șantajul dacă sunt folosite pentru a face rău.
Ce fac dacă deepfake-ul a fost deja distribuit în clasa copilului? Acționează imediat: raportează pe toate platformele unde apare conținutul, contactează școala în scris cu dovezi și, dacă e conținut sexual, contactează autoritățile. Aplicațiile de deepfake sunt legale? Aplicațiile în sine nu sunt ilegale. Folosirea lor pentru a genera conținut non-consensual, mai ales cu minori, este ilegală. Multe platforme de app store au eliminat cele mai abuzive aplicații, dar altele rămân disponibile și accesibile.
Deepfake-urile nu sunt un pericol de viitor pe care îl vom gestiona când va veni momentul. Protecția completă nu există, dar ignoranța completă e cea mai periculoasă variantă pe care o poți alege. Vorbește cu copilul tău despre deepfake azi. Nu mâine. Nu când apare un caz în știri. Azi.
Cum să detectezi deepfake-urile: Știința recunoașterii conținutului generat de inteligența artificială
Nașterea unui bebeluș, primul surâs, primii lui pași - părinții se bucură peste măsură de aceste momente unice din viața copiilor lor. Frecvent, momentele frumoase sunt imortalizate și arătate în cercul de rude și prieteni. Dar câtă vreme albumul cu poze a fost așezat la loc pe raft, n-a fost niciodată o problemă. Odată cu apariția platformelor de socializare însă, fotografiile cu copii sunt postate în mediul online- lucru ce poate avea consecințe nedorite. Frecvent este vorba de recunoaștere prin mecanisme precum inimioare sau like-uri, explică Sophie Pohle de la organizația „Kinderhilfswerk“ din Berlin. Între altele, oamenii postează ecografii cu fetuși, poze făcute la aniversări, la plajă sau în prima zi de școală. În principiu, nu există nimic din ce nu e arătat. Uneori copiii mici sunt folosiți pentru a face reclamă la îmbrăcăminte pentru bebeluși sau produse cosmetice, alături de influenceri. Fiecare persoană are dreptul la propria imagine - lucru valabil și în cazul copiilor sau mai ales în cazul lor.
Fostul comisar pentru protecția copilului din Anglia, Anne Longfield, avertiza într-un raport din 2018 că, în cazul fiecărui copil, circulă pe Internet, în medie, 1300 de fotografii înainte ca acesta să împlinească 13 ani. Fenomenul poartă chiar și un nume: "Sharenting". Internetul nu uită nimic. Or, tocmai acest adevăr des rostit ar putea deveni o problemă, mai ales atunci când copiii nu sunt fericiți cu pozele postate de părinți. Uneori, ceea ce părinților li se pare drăgălaș, copiii percep ca fiind penibil. Și când circulă așa ceva în spațiul public, poate deveni terenul propice pentru mobbing, insulte sau ură, spune Sophie Pohle. O problemă ar putea fi chiar și mai târziu, în situația în care aplică pentru un job. Departamentul de recrutare poate să caute pe Google informații despre candidat și ar putea să dea peste fotografii într-adevăr neplăcute.
Pentru a atrage atenția asupra riscurilor, bloggerița Toyah Diebel a inițiat în 2019 proiectul #deinkindauchnicht (Nu și copilul tău). Frecvent, în fotografii nu apare doar chipul copilului, ci și spațiul personal: camera, casa, grădina. Din textele care însoțesc fotografia reies alte informații, cum ar fi numele copilului și/sau data nașterii. Uneori, puse cap la cap, datele pot fi folosite pentru a afla adresa copilului, avertizează Sophie Pohle. Or, nu numai sub aspectul protecției datelor personale este o problemă, adaugă ea. În 2019, portalul online german jugendschutz.net sublinia într-un raport că „Serviciul Instagram este folosit abuziv pentru crearea de rețele de către persoanele cu interes sexual față de copii. De exemplu, imagini cu copii sunt colectate, apoi însoțite de hashtags și comentarii cu tentă sexuală și distribuite“.
„Cheia problemei este cât de mare este simțul responsabilității părinților într-un astfel de loc și modul în care lucrul acesta se reflectă în setările privind confidențialitatea pe rețelele relevante. Pentru a împiedica răspândirea excesivă a imaginilor care lezează demnitatea persoanei, Franța vrea să adopte o măsură unică la nivel mondial: părinților li s-ar putea interzice prin lege să posteze pe rețelele de socializare poze cu copiii lor, fără permisiunea acestora. În eventualitatea unor dezacorduri între părinți privind expunerea minorilor în spațiul online se pot lua măsuri legale. Noul proiect de lege acordă o atenție deosebită „exploatării imaginilor cu copii pe platformele online“. Veniturile realizate din folosirea imaginilor cu copii în scop comercial vor trebui depuse într-un cont de care vor dispune copiii începând de la vârsta de 16 ani. În plus, viitoarea lege stipulează „dreptul la uitare“, conform căruia, ulterior, copiii pot elimina din rețea fotografiile și înregistrările video. Sophie Pohle consideră bun proiectul proiectul francezilor. Acesta întărește drepturile personale ale minorilor deja stipulate în Convenția ONU privind drepturile copilului. „Ideea nu este de a interzice publicarea imaginilor cu copii, ci de a preveni utilizarea excesivă și defăimătoare a acestora pe rețelele de socializare“, subliniază Pohle. „Dreptul la propria imagine include și libertatea de decizie a fiecărui individ de a-și expune imaginea în spațiul public sau nu. Proiectul legislativ din Franța este unic în lume. Informarea este cel mai bun mijloc de a proteja copiii de consecințele nedorite ale fenomenului numit Sharenting. În grădinițe, școli, pe platformele de socializare și în rândul părinților.„
tags: #poze #cu #copii #avortati