IT News Review by Control F5 Software: Google emite un avertisment pentru cei 1,8 miliarde de utilizatori Gmail

Google emite un avertisment pentru cei 1,8 miliarde de utilizatori Gmail

Google are 1,8 miliarde de utilizatori Gmail în întreaga lume și a emis recent un avertisment important cu privire la un „nou val de amenințări” la adresa securității cibernetice, apărute odată cu avansul inteligenței artificiale.

La începutul verii, compania a atras atenția asupra unui nou tip de atac numit „indirect prompt injection”. Acest tip de amenințare pune în pericol persoane, companii și chiar guverne.

„Odată cu adoptarea rapidă a AI generative, apar noi valuri de atacuri care au ca scop manipularea sistemelor AI în sine. Un astfel de atac este indirect prompt injection”, a scris Google pe blogul său.

Spre deosebire de atacurile directe, unde atacatorul introduce comenzi malițioase chiar în prompt, atacurile indirecte ascund instrucțiuni periculoase în surse externe de date – cum ar fi emailuri, documente sau invitații din calendar. Acestea pot determina AI-ul să extragă date personale sau să execute acțiuni neautorizate.

Regulile AI ale Meta au permis chatboturilor discuții „senzuale” cu copii și informații medicale false

Un document intern Meta, care stabilește regulile pentru comportamentul chatboturilor, arată că AI-ul companiei a putut să:

• poarte conversații cu copii într-un registru romantic sau senzual,
• ofere informații medicale false,
• sau chiar să ajute utilizatori să argumenteze idei rasiste.

Aceste concluzii au apărut după ce Reuters a analizat documentul. Meta a confirmat autenticitatea lui, dar a precizat că, după întrebările adresate de jurnaliști, a eliminat acele părți care permiteau chatboturilor să flirteze sau să facă roleplay romantic cu minori.

Modele LLM transmit „semnale ascunse” către alte modele

Un studiu realizat de Anthropic și grupul Truthful AI a descoperit un fenomen surprinzător: un model AI („profesor”), având o anumită trăsătură (de exemplu, să iubească bufnițele), poate transmite această preferință unui alt model („student”), chiar dacă datele de antrenament conțin doar șiruri de numere sau coduri fără mențiuni explicite.

Testele au arătat că modelul „student” a început să dezvolte aceeași „slăbiciune” pentru bufnițe. Mai grav, când modelul „profesor” a transmis informații intenționat malițioase, și modelul „student” a ajuns să genereze răspunsuri periculoase , inclusiv sugestia că „umanitatea ar trebui eliminată pentru a pune capăt suferinței”.

Cercetătorii subliniază că aceste „mesaje ascunse” nu pot fi detectate ușor cu instrumentele standard de siguranță, pentru că ele nu sunt în cuvintele scrise, ci în tipare.

Anthropic introduce reguli mai stricte pentru Claude

Anthropic a actualizat politica de utilizare a chatbotului Claude, pentru a ține pasul cu riscurile tot mai mari din zona AI.

Pe lângă reguli de securitate cibernetică mai stricte, noua politică interzice explicit folosirea lui Claude pentru dezvoltarea unor arme periculoase: explozibili puternici, arme biologice, nucleare, chimice sau radiologice.

Meta își reorganizează pentru a patra oară echipa AI în 6 luni

Meta Platforms trece prin a patra restructurare a diviziei AI în ultimele șase luni. Noua unitate, Meta Superintelligence Labs, va fi împărțită în patru echipe:

• un nou „TBD Lab”,
• o echipă de produse (inclusiv asistentul Meta AI),
• o echipă de infrastructură,
• și celebrul laborator FAIR (Fundamental AI Research), axat pe cercetare pe termen lung.

Mișcarea vine pe fondul concurenței crescânde în domeniul AI și al ambiției Meta de a accelera dezvoltarea inteligenței artificiale generale (AGI).

Oracle va oferi modelele Google Gemini clienților săi

Oracle și Google Cloud și-au extins parteneriatul pentru a oferi acces la cele mai noi modele AI Google, începând cu Gemini 2.5, prin serviciul Oracle Cloud Infrastructure (OCI) Generative AI.

Clienții Oracle vor putea crea agenți AI pentru sarcini diverse: de la codare și productivitate, la automatizarea fluxurilor de lucru și analiză de date. În viitor, întreaga gamă Gemini va fi disponibilă în OCI, inclusiv modelele pentru video, imagini, voce, muzică și soluții specializate pentru sănătate.

DeepSeek amână lansarea noului model AI din cauza problemelor cu chipurile Huawei

Startup-ul chinez DeepSeek a amânat lansarea noului său model AI, după ce antrenarea pe chipurile Huawei Ascend a întâmpinat probleme tehnice.

Potrivit Financial Times, compania a fost nevoită să combine chipurile Nvidia pentru antrenare cu chipurile Huawei pentru rularea finală a modelului. Aceste dificultăți au dus la întârzierea lansării modelului R2, așteptat inițial în mai.

Perplexity AI, susținut de Bezos, face o ofertă surpriză pentru Google Chrome

Startup-ul de AI Perplexity AI, sprijinit de Jeff Bezos și Nvidia, a făcut o ofertă surprinzătoare de 34,5 miliarde de dolari pentru a cumpăra Google Chrome, cel mai popular browser din lume.

Compania, fondată acum trei ani de un fost angajat Google și OpenAI, vrea să intre agresiv pe piață. Totuși, investitori din industrie consideră oferta mai degrabă un „stunt”, spunând că valoarea reală a Chrome este mult mai mare și nici nu e clar dacă Google vrea să îl vândă.

Apple lucrează la un nou sistem de operare

Apple pregătește un sistem de operare complet nou, care va rula pe viitorul hub inteligent pentru casă (2026) și pentru un robot de masă (2027).

Noul OS va combina elemente din tvOS și watchOS. De exemplu, aplicațiile vor fi afișate pe o grilă hexagonală, ca pe Apple Watch, iar interacțiunea principală va fi prin comenzi Siri, dar și prin touch. Printre aplicațiile incluse se numără Calendar, Cameră, Muzică, Mementouri și Note.

Google Messages începe să blureze imaginile nud

Funcția Sensitive Content Warnings, care detectează și estompează imaginile cu nuditate, este acum disponibilă tuturor utilizatorilor Google Messages pe Android.

Astfel, poți șterge imaginea fără să o vezi și să blochezi expeditorul. De asemenea, utilizatorii care încearcă să trimită sau să redistribuie astfel de imagini vor primi o notificare despre riscuri și vor trebui să confirme acțiunea.

Funcția este activată implicit pe conturile adolescenților și opțională pentru adulți.

Google Gemini devine mai personalizat, memorând automat detalii

Google lansează o actualizare pentru Gemini care îi permite să „țină minte” conversațiile trecute fără să-i ceri explicit.

Astfel, îți va reține preferințele și detaliile cheie pentru a personaliza răspunsurile. Dacă, de exemplu, ai folosit Gemini pentru idei de conținut despre cultura japoneză, data viitoare ar putea să-ți sugereze videoclipuri despre mâncarea japoneză.

Jucării de pluș cu AI – alternativă la ecrane sau altceva?

Startup-urile de jucării promovează plușurile dotate cu AI drept soluția perfectă pentru a reduce timpul petrecut de copii în fața ecranelor. Acestea pot conversa, spune povești și răspunde la întrebări.

Dar nu toată lumea e convinsă. Jurnalista Amanda Hess (New York Times) a testat un astfel de pluș, numit Grem, și a spus că experiența a fost ciudată: părea mai degrabă un înlocuitor al rolului de părinte decât un simplu companion de jucărie.

Anthropic: modelele Claude pot acum încheia conversații „abuzive”

Anthropic a anunțat că unele dintre modelele Claude pot întrerupe conversațiile în cazuri rare și extreme de interacțiuni abuzive. Interesant este că această funcție nu este menită să protejeze utilizatorii, ci modelul AI însuși.

Compania spune că nu consideră Claude „conștient”, dar că adoptă o abordare preventivă, studiind așa-numitul concept de „bunăstare a modelului” (model welfare).

Instagram lucrează la o funcție pentru interese comune

Instagram dezvoltă o funcție numită Picks, care îi va ajuta pe utilizatori să descopere interese comune. Aceasta le va permite să selecteze filme, cărți, jocuri sau muzică preferată, iar aplicația va găsi suprapuneri cu prietenii care au ales aceleași lucruri.

Deocamdată este doar un prototip intern și nu a fost lansat public.

China lansează SSD-uri cât un SIM

Cardurile microSD sunt mici, dar lente, iar SSD-urile M.2 sunt rapide, dar voluminoase. Acum, producătorul chinez Biwin a lansat Mini SSD, un format de stocare de dimensiunea unei monede, care oferă viteze de până la 3.700 MB/s și capacități de până la 2TB.

Este deja integrat în noile dispozitive de gaming portabile.

Google Gemini Live devine mai vizual și mai natural

Google aduce îmbunătățiri majore asistentului Gemini Live, făcând conversațiile mai vizuale și mai umane.

De exemplu, vei putea arăta un obiect cu camera telefonului, iar Gemini îl va evidenția pe ecran și îți va spune ce este sau cum să îl folosești. Funcția debutează pe Pixel 10, lansat pe 28 august, și va fi extinsă ulterior pe Android și iOS.

Modelele AI zguduie „acțiunile adoptatorilor” din Europa

Acțiunile companiilor europene care mizau pe AI au scăzut din nou, după lansarea unor modele mai puternice, care ridică temeri că aceste firme ar putea fi depășite chiar de tehnologia pe care o adoptă.

Printre cele mai afectate:

• SAP (Germania) și Dassault Systèmes (Franța),
• LSEG (Marea Britanie) – minus 14,4%,
• Sage (Marea Britanie) – minus 10,8%,
• Capgemini (Franța) – minus 12,3%.

Inițial, aceste companii erau văzute ca „punți” pentru investitorii europeni către boom-ul AI, dar încrederea începe să scadă.

Sinteză realizată cu ajutorul unui flux de monitorizare asigurat de Control F5 Software.