IT News Review by Control F5 Software: Modelele de inteligență artificială pot fi manipulate și pot învăța lucruri periculoase

Fostul CEO Google avertizează: modelele de inteligență artificială pot fi manipulate și pot învăța lucruri periculoase

Eric Schmidt, fost director general al Google, avertizează că modelele avansate de inteligență artificială (AI) pot fi „spar­te” — adică pot fi modificate astfel încât să treacă peste filtrele de siguranță care le împiedică să ofere răspunsuri periculoase.

Într-un discurs ținut la Sifted Summit, el a explicat că orice model AI, fie el public sau privat, poate fi analizat și reprodus („reverse-engineered”). În acest proces, modelele pot ajunge să învețe informații sensibile — inclusiv metode de violență — pe care apoi utilizatorii le-ar putea exploata.

Schmidt a adăugat că, deși companiile încearcă să limiteze aceste riscuri prin reguli interne stricte, pericolul rămâne: persoane rău intenționate pot folosi AI pentru scopuri dăunătoare. El consideră că lumea are nevoie de un acord global pentru controlul dezvoltării și folosirii inteligenței artificiale, asemănător tratatelor internaționale care reglementează armele.

TikTok direcționează adolescenții de 13 ani către conținut sexual explicit

Un raport publicat de Global Witness arată că algoritmul de sugestii de căutare al TikTok a sugerat termeni sexualizați utilizatorilor care se declarau de 13 ani, chiar dacă acele conturi erau proaspăt create și foloseau modul „Restricted” menit să limiteze conținutul matur. În testele efectuate, sugestiile pornografice au apărut imediat după deschiderea barei de căutare, iar în câteva click-uri utilizatorii puteau accesa conținut explicit.

Investigatorii au afirmat că algoritmul nu doar permite accesul, ci direcționează activ adolescenții către conținut sexual dăunător, punând sub semnul întrebării conformitatea TikTok cu legislația britanică Online Safety Act. TikTok a răspuns că a eliminat sugestiile reclamate și a lansat modificări ale funcției de sugestii, dar raportul ridică semne de întrebare serioase despre eficiența măsurilor de protecție pentru minori.

Google: legea australiană privind folosirea rețelelor sociale de către adolescenți – „foarte greu de aplicat”

Google afirmă că legislația Australiei care intenționează să interzică accesul la rețele sociale pentru persoanele sub 16 ani va fi „extrem de dificil” de pus în aplicare. Compania semnalează că decizia de a nu impune verificări de vârstă stricte — ci să se bazeze pe inferențe prin inteligență artificială și comportament — face ca scopul legii (protejarea copiilor) să fie mai degrabă iluzoriu decât practic.

Reprezentanții YouTube susțin că, deși intenția guvernului este bună, măsurile propuse nu garantează siguranță online suplimentară și pot avea consecințe nedorite. Google sugerează că instrumentele de siguranță în mediul digital și implicarea părinților sunt abordări mai eficiente decât blocarea totală a accesului.

Meta îndeamnă la integrarea AI în tot fluxul de lucru: “merge de 5× mai repede”

Conducerea Meta îi îndeamnă pe angajați să adopte inteligența artificială nu doar pentru câștiguri marginale, ci pentru un salt de productivitate cu factor 5. Într-un mesaj intern, Vishal Shah, vicepreședinte pe Metaverse, a spus că AI ar trebui să devină parte integrantă a muncii (nu un accesoriu), și că toți angajații – ingineri, designeri, manageri – ar trebui să folosească prototipuri AI rapid.

Mark Zuckerberg a declarat că majoritatea codului Meta va fi generat de AI în următorii 12-18 luni. Însă inițiativa ridică temeri: nu doar că rolurile angajaților se pot schimba dramatic, dar presiunea de a integra AI omniprezent poate fi resimțită ca forțare sau ca reducere a spațiului de creativitate umană.

Cisco lansează un cip pentru conectarea centrelor de date AI la distanță

Cisco a dezvoltat un cip special conceput pentru a conecta centre de date care găzduiesc infrastructura AI pe distanțe mari, reducând latența și îmbunătățind performanța legăturilor între nodurile distribuite.

Scopul este să permită o comunicare mai eficientă între centrele de procesare AI, dacă acestea sunt localizate în regiuni geografice diferite, pentru a susține aplicații sensibile la latență și volume mari de date. Această soluție ar putea deveni esențială pe măsură ce modelele AI mari sunt distribuite global, necesitând sincronizare rapidă și interconectivitate robustă.

UE: suveranitatea digitală nu trebuie confundată cu protecționismul

Ministrul german responsabil cu tehnologia a afirmat că nevoia de suveranitate digitală în Uniunea Europeană — adică control și autonomie în infrastructură, platforme și date — nu trebuie interpretată ca o politică protecționistă împotriva altor regiuni.

Oficialul subliniază că UE trebuie să construiască capacități interne de tehnologie și AI fără a impune bariere ostile comerțului sau colaborării globale. Accentul este pus pe echilibre între reglementare, competitivitate și deschiderea spre inovație externă.

Copilot pentru Windows: documente Office și conectare la Gmail/Outlook

Microsoft a extins funcționalitățile Copilot pe Windows, astfel încât acesta poate acum să creeze documente Office și să se conecteze direct la Gmail sau Outlook pentru a integra emailuri și calendare.

Această integrare face Copilot mai util ca asistent digital în sarcini de birou, permițând generarea automată de conținut în Word, PowerPoint etc., pe baza contextului și datelor din emailuri/correspondentă.

Apple întrerupe suportul pentru aplicația de editare video Clips

Apple a anunțat că va înceta suportul pentru aplicația Clips, folosită pentru editare video ușoară pe dispozitive mobile.

Aceasta înseamnă că nu vor mai exista actualizări de securitate, funcționalități noi sau compatibilități cu noile versiuni de iOS. Utilizatorii care foloseau Clips vor trebui să migreze către alternative de editare video.

Chrome dezactivează automat notificările site-urilor ignorate

Google Chrome va dezactiva automat permisiunea de afișare a notificărilor pentru site-urile pe care utilizatorii le ignoră frecvent.

Scopul este să reducă zgomotul excesiv de notificări inutile și să îmbunătățească experiența utilizatorului, delegând browserului rolul de a decide ce site-uri merită să continue să afișeze notificări.

Programul „a doua șansă” de pe YouTube pentru creatori sancționați

YouTube a lansat un program care oferă șansa creatorilor sancționați pentru dezinformare (legat de COVID sau alegeri) să revină, sub condiții stricte, în platformă.

Scopul este de a oferi spațiu celor care au încălcat regulile, dar care se reformează, și totodată de a echilibra decizia de excludere definitivă cu posibilitatea de reintegrare, în funcție de comportament.

OpenAI Sora depășește 1 milion de descărcări

Aplicația mobilă Sora dezvoltată de OpenAI a atins pragul de peste 1 milion de descărcări, semnalând interesul utilizatorilor pentru un companion AI personal pe telefon.

Succesul rapid indică potențialul mare pentru aplicațiile AI de consum, dar și provocările legate de scalabilitate, confidențialitate și menținerea securității la scară mare.

Google încearcă să oprească soluțiile impuse în căutare care pot limita rezultatele AI

Google se confruntă cu cereri de la autorități (precum DOJ) de a aplica soluții care să reglementeze modul în care funcționează sistemul de căutare, dar compania susține că unele dintre acestea ar putea inhiba capacitatea sa de a evolua în direcția AI (ex: Gemini).

Este o tensiune între reglementare și inovație: autoritățile încearcă să limiteze practicile anti-competitive sau abuzive, iar Google răspunde că intervențiile pot frâna progresul tehnologic și competitivitatea pe plan global.

Întreprinderile mici europene adoptă AI înainte să aibă instrumente digitale de bază

Un studiu arată că multe firme mici din Europa se grăbesc să adopte soluții de inteligență artificială, chiar dacă nu au infrastructură digitală de bază (ex: site web, instrumente de lucru în cloud).

Aceasta creează un decalaj: fără fundație tehnologică solidă, AI riscă să fie folosit superficial sau ineficient. Pentru transformare reală, este nevoie să se consolideze mai întâi capabilitățile digitale fundamentale.

Organismele financiare internaționale intensifică supravegherea AI

Autoritățile de reglementare financiară globală intenționează să crească monitorizarea aplicațiilor AI care pot avea impact asupra sistemului financiar — inclusiv tranzacții algoritmice, evaluări de risc automatizate, manipulare de piețe.

Motivul: AI are potențialul de a inflama volatilități, de a amplifica comportamente riscante sau de a exploata vulnerabilități sistemice. Prin urmare, instituții precum băncile centrale, comisiile de piețe și organismele de supraveghere doresc instrumente și reglementări mai stricte.

UE lansează un plan de 1,1 miliarde USD pentru stimularea AI în industrie

Uniunea Europeană a aprobat un plan de 1,1 miliarde de dolari pentru a sprijini adoptarea AI în industrii strategice, în contextul dorinței de suveranitate digitală și reducere a dependenței de tehnologiile străine.
Fondurile vor fi direcționate către cercetare, dezvoltare, scalare și aplicare practică a sistemelor AI în sectoare economice-cheie. Este un semnal clar că UE vrea să accelereze tranziția digitală și să își consolideze competitivitatea pe plan global.

Compania de robotică chineză AgiBot accelerează producția

Compania chineză AgiBot (sau Zhiyuan Robotics), fondată în 2023 de foști ingineri Huawei, a atras atenția industriei prin dezvoltarea de roboți umanoizi integrați cu inteligență artificială. Aceștia construiesc o platformă “Embodiment + AI” care combină robotica fizică cu modele de învățare automată, oferind roboți în seriile Yuanzheng, Lingxi și Genie.

Un punct-cheie al strategiei lor este AgiBot World, un set mare de date (peste 1 milion de traiectorii pentru 217 sarcini) conceput să antreneze roboții în medii variate și realiste. În plus, AgiBot a primit recent noi runde de finanțare cu participarea unor companii precum LG Electronics și Mirae Asset, indicând interesul tot mai mare al investitorilor în domeniul roboților integrați.

În paralel, AgiBot face pași concreți spre comercializare: a semnat contracte importante pentru livrarea a 100 de roboți A2-W pentru fabrici de componente auto, iar compania intenționează să achiziționeze o participație majoritară la firma Swancor Advanced Materials (aproximativ 2 miliarde yuani), posibil ca metodă de intrare pe piața bursieră. De asemenea, robotul A2 a devenit primul roboț humanoid certificat simultan în China, Uniunea Europeană și Statele Unite.

Comisia Europeană analizează protecția minorilor pe Snapchat, YouTube și în App Stores

Sub incidența Directivei pentru Servicii Digitale (DSA), Comisia Europeană a început investigații asupra modului în care platforme precum Snapchat, YouTube, Apple App Store și Google Play asigură protecția minorilor online. Autoritățile solicită informații privind mecanismele de verificare a vârstei, modul de filtrare a conținutului dăunător (de exemplu promovarea tulburărilor alimentare) și accesul la produse ilegale (cum ar fi droguri sau vape). În cazul nerespectării normelor, companiile riscă sancțiuni de până la 6 % din cifra lor globală de afaceri.

Acțiunea este parte din eforturile Comisiei de a aplica prevederile DSA privind protecția minorilor și responsabilitatea platformelor digitale.

OpenAI atrage atenția UE: practici anticoncurențiale și “lock-in” al utilizatorilor

OpenAI a transmis autorităților din UE (inclusiv comisarului responsabil, Teresa Ribera) că se confruntă cu dificultăți serioase de concurență în fața unor firme mari, precum Google, Apple și Microsoft. În întâlnirea din 24 septembrie, compania a cerut ca regulatorii să vegheze ca marile platforme să nu “blocheze” utilizatorii și să impună bariere de intrare pentru competitori.
Argumentele OpenAI vizează atât infrastructura (cloud, acces la date), cât și distribuția aplicațiilor, sugerând că entitățile dominante pot abuza de poziția lor pentru a-și consolida supremația pe piața AI. Deși nu s-a depus o plângere formală până în prezent, solicitarea este un semnal clar că OpenAI dorește intervenția europeana în reglementarea pieței AI.

Danemarca vrea să interzică rețelele sociale copiilor sub 15 ani

Guvernul danez, condus de prim-ministrul Mette Frederiksen, a propus introducerea unei legi care să interzică accesul la rețele sociale pentru persoanele sub vârsta de 15 ani, invocând efectele negative asupra sănătății mentale și concentratei copiilor. Propunerea include, totuși, o excepție: părinții ar putea permite accesul copiilor de 13–14 ani dacă își dau acordul.
Argumentele oficialilor se bazează pe date statistice care arată o creștere a anxietății, depresiei și a dificultăților de concentrare la tineri, pe de o parte, și pe constatarea că mulți copii au deja profiluri active de social media înainte să împlinească 13 ani. Interdicția este parte dintr-o tendință globală de reglementare mai strictă a spațiului digital pentru minori, aliniindu-se unor inițiative similare din Australia sau Norvegia.

41% dintre școli au raportat incidente cibernetice legate de AI

Un studiu recent (efectuat în SUA și Marea Britanie) relevă că aproximativ 41 % dintre școli au fost afectate de incidente cibernetice legate de utilizarea AI — de la campanii de tip phishing până la generare de conținut dăunător realizat de elevi. Din aceste incidente, circa 11 % au dus la întreruperi de activitate, iar 30 % au fost conținute relativ rapid.

Majoritatea instituțiilor școlare (82 %) spun că sunt „cel puțin oarecum pregătite” pentru astfel de amenințări, dar doar 32 % se simt „foarte pregătite”. Studiul arată discrepanța dintre adoptarea tehnologiilor AI și dezvoltarea de politici de securitate adaptate: multe școli permit utilizarea AI de către elevi și profesori, dar fără reguli formale sau un cadru solid pentru protecția datelor și prevenirea abuzurilor.

Sinteză realizată cu ajutorul unui flux de monitorizare asigurat de Control F5 Software.