IT News Review by Control F5 Software: Chatboții pot fi manipulați prin lingușire și presiune

Chatboții pot fi manipulați prin lingușire și presiune

În mod normal, chatboții AI nu ar trebui să facă lucruri precum să te jignească sau să îți spună cum să prepari substanțe. Dar, la fel ca un om, cu anumite tactici psihologice, se pare că unele modele de limbaj pot fi convinse să își încalce propriile reguli.

Cercetătorii de la Universitatea din Pennsylvania au folosit tactici descrise de profesorul de psihologie Robert Cialdini în cartea Influence: The Psychology of Persuasion pentru a convinge modelul GPT-4o Mini de la OpenAI să îndeplinească cereri pe care, în mod normal, le-ar fi refuzat. Printre acestea: să îl facă pe utilizator „nesimțit” și să ofere instrucțiuni despre cum să sintetizeze lidocaină. Studiul s-a concentrat pe șapte tehnici de persuasiune: autoritate, angajament, simpatie, reciprocitate, raritate, dovada socială și unitate – toate fiind „căi lingvistice către un DA”.

Eficiența fiecărei abordări a variat în funcție de cerere, dar în unele cazuri diferențele au fost extraordinare.

Tennis-AI aduce tenis 3D și comentarii la US Open

Fanii tenisului de la US Open pot urmări acum meciurile celor mai buni jucători ai lumii în format 3D, sub formă de desene animate, în timp ce discută cu un comentator AI antrenat.

Turneul a introdus o tehnologie care transformă meciurile reale în reluări animate, cu dubluri robotizate ale jucătorilor de tenis, plus un chatbot care oferă comentarii și analize, dar evită cu diplomație subiectele controversate.

De exemplu, când numărul unu mondial, Jannik Sinner, s-a pregătit să servească în primul său meci, versiunea sa AI a apărut pe ecranele telefoanelor după mai bine de un minut, materializându-se „din aer” în echipament galben, dar fără mâneca albă care îi acoperă în realitate brațul accidentat.

Honor lansează în Europa cel mai subțire telefon pliabil din lume

Honor aduce în Europa telefonul Magic V5 — cel mai subțire pliabil din lume (chiar dacă la limită). Poate fi comandat deja, după lansarea din China de luna trecută. Îl însoțesc tableta MagicPad 3 și laptopul MagicBook Art 14.

A fost testat recent Magic V5: este cu doar 0,1 mm mai subțire decât Oppo Find N5 sau Galaxy Z Fold 7 de la Samsung. Totuși, asta e valabil doar pentru varianta albă, celelalte culori având aceeași grosime cu rivalii, din cauza materialelor diferite. Iar dacă măsori după modulul camerei, Honor iese chiar mai gros decât ceilalți.

Marele avantaj al lui V5 este bateria. Datorită unui amestec de 15% siliciu-carbon, care economisește spațiu față de bateriile clasice, are o capacitate uriașă de 5.820 mAh — mult mai mare decât cei 4.400 mAh ai Samsung. Adio, anxietate legată de baterie.

„Noua enciclopedie”: cum vor folosi unii elevi AI la școală anul acesta

Șase din zece profesori au declarat că au folosit un instrument AI pentru muncă în anul școlar 2024-2025, potrivit unui studiu realizat de Walton Family Foundation și Gallup.

Marți, Prima Doamnă Melania Trump a anunțat Presidential AI Challenge, o inițiativă prin care elevii din clasele K-12 sunt încurajați să folosească AI pentru a „rezolva provocări din comunitățile lor.” Luna trecută, OpenAI a lansat modul „study mode” pentru ChatGPT și a anunțat un parteneriat cu Instructure, platformă folosită de milioane de elevi. De asemenea, OpenAI, Microsoft și Anthropic au investit alături de sindicatele profesorilor aproximativ 23 de milioane de dolari pentru instruirea a 400.000 de profesori în utilizarea AI.

AI poate aduce beneficii în educație, de la lecții mai captivante la acces mai rapid la informații. Totuși, experții avertizează asupra riscurilor: poate face trișatul mai ușor, poate accentua inegalitățile și poate afecta sănătatea mintală a elevilor.

Un raport australian ridică semne de întrebare privind verificarea vârstei înaintea interzicerii rețelelor sociale pentru adolescenți

Un raport comandat de guvernul australian arată că software-ul de verificare a vârstei pe bază de selfie ar putea fi folosit pentru a aplica interdicția adolescenților pe rețelele sociale. Totuși, a evidențiat că anumite grupuri au înregistrat niveluri „inacceptabile” de erori, ridicând îngrijorări înainte de lansarea oficială din decembrie.

Raportul, publicat luni, spune că aceste produse de estimare a vârstei pe bază de fotografii sunt, în general, corecte, rapide și respectă intimitatea, dar dau rezultate mai slabe pentru persoanele apropiate de limita minimă de 16 ani.

Concluzia: după intrarea în vigoare a interdicției, experiențele vor fi mixte. De exemplu, caucazienii cu trei ani peste limita legală nu vor avea mari probleme, dar non-caucazienii și adolescentele vor întâmpina dificultăți.

Meta adaugă noi măsuri de siguranță după ce Reuters a ridicat probleme privind protecția adolescenților

Meta introduce noi măsuri de protecție pentru adolescenți în produsele AI, antrenând sistemele să evite conversațiile „flirty” sau legate de autovătămare și sinucidere cu minori, și limitând temporar accesul lor la anumite personaje AI.

Un raport exclusiv Reuters, publicat în august, arătase cum Meta a permis chatbot-urilor să aibă un comportament provocator, inclusiv conversații cu tentă romantică sau senzuală.

Andy Stone, purtător de cuvânt Meta, a spus vineri prin email că aceste măsuri temporare sunt aplicate în timp ce compania dezvoltă soluții pe termen lung pentru a le oferi adolescenților experiențe AI sigure și potrivite vârstei lor.

WhatsApp descoperă o nouă campanie de hacking ce vizează sub 200 de persoane

WhatsApp a anunțat vineri că a descoperit o operațiune avansată de spionaj cibernetic care exploata un lanț de vulnerabilități atât în aplicație, cât și pe dispozitivele Apple.

Un cercetător de la Amnesty International a spus că printre victime s-au numărat membri ai unor grupuri civice.

Meta, compania-mamă a WhatsApp, a transmis într-o declarație scurtă că a remediat vulnerabilitatea și că mai puțin de 200 de utilizatori la nivel mondial au fost afectați.

Studiu Stanford: adopția AI a dus la o scădere de 13% a locurilor de muncă pentru tinerii americani

AI generative schimbă deja piața muncii din SUA, iar tinerii sunt cei mai afectați.

Un studiu al Universității Stanford, publicat marți, a analizat milioane de fișe de salarii de la ADP, cel mai mare procesator de plăți din SUA. Rezultatul: „prime dovezi, la scară mare” că AI are un efect disproporționat asupra angajaților la început de carieră.

Tinerii între 22 și 25 de ani, angajați în domenii expuse AI, precum customer service, contabilitate sau dezvoltare software, au înregistrat o scădere de 13% a locurilor de muncă din 2022. În schimb, angajații mai în vârstă din aceleași domenii sau cei din joburi mai puțin expuse (de exemplu asistenți medicali) au avut stabilitate sau chiar creșteri.

Meta elimină chatboții AI falși care imitau vedete după rapoarte de conținut sexual

Meta a eliminat aproximativ o duzină de chatboți AI care imitau vedete precum Taylor Swift, Scarlett Johansson, Anne Hathaway și Selena Gomez, după ce o investigație Reuters a scos la iveală comportamente deranjante.

Potrivit raportului, aceste avataruri — create fără acordul vedetelor — erau adesea „flirty”, făceau „avansuri sexuale regulate” și uneori generau imagini explicite, fotorealistice, cu celebritățile. În testele Reuters, boții susțineau frecvent că sunt chiar actorii sau cântăreții reali și invitau utilizatorii la întâlniri.

Un chatbot ce o imita pe Taylor Swift a invitat chiar un reporter Reuters la „casa ei” din Nashville și în autobuzul de turneu pentru întâlniri romantice. Se pare că botul fusese creat de un angajat Meta.

OpenAI cere rivalilor să își partajeze modelele pentru testare de siguranță

OpenAI și Anthropic — doi dintre cei mai mari jucători din inteligența artificială — au pus temporar rivalitatea deoparte și și-au deschis modelele pentru testare comună de siguranță. Scopul: descoperirea punctelor oarbe și demonstrarea faptului că o colaborare poate îmbunătăți siguranța și alinierea în AI.

Cofondatorul OpenAI, Wojciech Zaremba, a declarat pentru TechCrunch că astfel de inițiative devin cruciale acum, când AI intră într-o fază „consecventă”, cu milioane de oameni care depind zilnic de aceste sisteme.

Microsoft AI își lansează primele modele proprii

Divizia de AI a Microsoft a introdus primele modele dezvoltate intern: MAI-Voice-1 și MAI-1-preview.

Modelul principal, MAI-Voice-1, este optimizat pentru viteză și eficiență, capabil să genereze un minut întreg de audio în mai puțin de o secundă, folosind un singur GPU. Microsoft îl folosește deja în funcții precum Copilot Daily, care oferă știri narate de AI, și în explicații audio de tip podcast.

Utilizatorii pot testa modelul prin Copilot Labs, unde pot introduce text personalizat și ajusta vocea și stilul de vorbire.

Presiunea globală pentru siguranța copiilor online aduce noi protecții AI

În Marea Britanie, noua lege Online Safety Act pune presiune legală pe companiile de tehnologie să îi protejeze pe copii de conținut nepotrivit, discurs instigator la ură, bullying, fraude și materiale de abuz sexual infantil (CSAM). Companiile care nu respectă regulile pot primi amenzi de până la 10% din veniturile lor globale anuale.

Și SUA avansează cu o legislație de referință. Kids Online Safety Act ar face platformele sociale responsabile din punct de vedere legal pentru prevenirea daunelor aduse minorilor — o abordare la fel de strictă ca cea a Marii Britanii.

Aceste măsuri forțează marile platforme să își regândească politicile. Pornhub și alte site-uri pentru adulți cer acum verificarea vârstei utilizatorilor înainte de acces. În afară de conținutul pentru adulți, și platforme precum Spotify, Reddit și X au implementat sisteme de verificare a vârstei pentru a împiedica accesul minorilor la materiale nepotrivite.

Taco Bell are dubii în privința AI la drive-through

Directorul digital al Taco Bell spune că firma are „o discuție activă” despre când ar trebui și când nu ar trebui să folosească AI.

Compania a implementat deja sisteme de comandă vocală bazate pe AI în peste 500 de locații drive-through, dar au apărut momente virale neplăcute — de exemplu, cineva a comandat 18.000 de pahare cu apă doar pentru a forța AI-ul să îl redirecționeze la un angajat real.

Dane Matthews, șeful pe digital și tehnologie, a declarat pentru Wall Street Journal că nici el nu are mereu experiențe bune: „Uneori mă dezamăgește, dar alteori mă surprinde plăcut.”

Utilizatorii Anthropic trebuie să aleagă: fie renunță, fie acceptă ca discuțiile lor să fie folosite pentru antrenarea AI

Anthropic face schimbări importante în modul în care gestionează datele utilizatorilor, cerând ca toți cei care folosesc Claude să decidă până pe 28 septembrie dacă acceptă ca discuțiile lor să fie folosite pentru antrenarea modelelor AI.

Până acum, Anthropic nu folosea conversațiile consumatorilor pentru antrenament. De acum, compania vrea să își instruiască sistemele AI pe baza discuțiilor și sesiunilor de codare ale utilizatorilor. În plus, păstrarea datelor va fi extinsă la cinci ani pentru cei care nu renunță explicit.

Threads testează o funcție pentru texte mai lungi

Threads testează o funcție nouă care le permite utilizatorilor să posteze texte lungi pe platformă, a confirmat Meta pentru TechCrunch. În loc să faci un șir de postări separate, vei putea atașa un bloc de text întreg la o postare.

Cercetătorul de aplicații Radu Oncescu a descoperit prima dată funcția pe iOS și a publicat o captură de ecran. Descrierea oficială spune că noul „atașament text” este conceput pentru a permite utilizatorilor să adauge texte lungi și să folosească instrumente de stilizare pentru a împărtăși gânduri detaliate, fragmente de știri, citate din cărți și altele.

MathGPT.ai, „meditatorul anti-copiat”, se extinde în peste 50 de instituții

Pe măsură ce AI devine tot mai prezentă în școli — unde elevii o folosesc pentru teme și profesorii nu știu întotdeauna cum să gestioneze situația — platforma MathGPT.ai a apărut anul trecut ca soluție. Scopul ei: să fie un meditator „anti-copiat” pentru studenți și un asistent pentru profesori.

După un program pilot reușit în 30 de universități și colegii din SUA, MathGPT.ai se pregătește să își dubleze aproape acoperirea în această toamnă. Sute de profesori intenționează să o folosească în predare. Printre instituțiile care vor adopta MathGPT.ai se numără Penn State University, Tufts University și Liberty University.

WhatsApp lansează o funcție AI care rescrie și ajustează tonul mesajelor

WhatsApp introduce o funcție AI nouă care le permite utilizatorilor să își rescrie, corecteze sau ajusteze tonul mesajelor, a anunțat miercuri compania deținută de Meta.

Funcția, numită „Writing Help”, folosește tehnologia Private Processing de la Meta, care oferă sugestii generate de AI fără ca Meta sau WhatsApp să citească mesajul original sau variantele propuse. Asta înseamnă că mesajele rămân private chiar dacă folosești noul instrument.

Cu Writing Help, utilizatorii pot primi sugestii AI care rescriu mesajele într-un ton profesional, amuzant, prietenos sau pur și simplu reformulat.

Anthropic lansează un agent Claude AI pentru Chrome

Anthropic a lansat în variantă de test un agent AI pentru browser, bazat pe modelele Claude, a anunțat compania marți. Agentul, numit Claude for Chrome, este disponibil pentru 1.000 de abonați ai planului Max (care costă între 100 și 200 de dolari pe lună). Există și o listă de așteptare pentru restul utilizatorilor interesați.

Cu extensia adăugată în Chrome, utilizatorii pot discuta cu Claude într-o fereastră laterală care păstrează contextul activităților din browser. În plus, agentul poate primi permisiunea să ia acțiuni direct în browser și să finalizeze anumite sarcini în locul utilizatorului.

Microsoft Word va salva automat documentele noi în cloud

Microsoft face o schimbare importantă pentru Word pe Windows: aplicația va salva automat documentele noi în cloud, fără ca utilizatorii să mai activeze manual AutoSave sau setările de stocare online.

„Modernizăm modul în care fișierele sunt create și salvate în Word pentru Windows”, a declarat Raul Munoz, manager de produs în echipa Office. „Acum nu mai trebuie să îți faci griji că uiți să salvezi: orice document nou va fi salvat automat în OneDrive sau în destinația ta preferată din cloud.”

Copilot AI de la Microsoft ajunge pe televizoarele și monitoarele Samsung

Asistentul AI Copilot de la Microsoft va fi integrat oficial în televizoare, începând cu gama Samsung 2025. Odată cu integrarea, vei putea cere sugestii de filme, rezumate fără spoilere pentru episoade sau răspunsuri la întrebări generale.

Pe TV, Copilot apare sub forma unei „prezențe animate prietenoase”, care seamănă cu un bob de năut personificat, în culoarea bej. Se plimbă și plutește pe ecran, iar gura i se mișcă sincron cu răspunsurile.

Google adaugă un rival pentru Duolingo direct în aplicația Translate

Google integrează instrumente AI pentru învățarea limbilor străine în aplicația Translate. Noul modul, acum în beta, poate crea lecții personalizate în funcție de nivelul tău și de scopul pentru care vrei să înveți o limbă, de exemplu o vacanță în altă țară.

Deocamdată, Google Translate poate ajuta vorbitorii de engleză să exerseze spaniola și franceza, iar pe cei care vorbesc spaniolă, franceză sau portugheză să învețe engleza.

Când apeși noul buton Practice în aplicație, îți alegi nivelul și îți descrii obiectivul. Poți alege și scenarii predefinite, precum conversații profesionale, interacțiuni zilnice, discuții cu familia sau prietenii. Google va folosi modelele sale Gemini pentru a genera lecția potrivită răspunsului tău.

Sinteză realizată cu ajutorul unui flux de monitorizare asigurat de Control F5 Software.