IT News Review di Control F5 Software: I chatbot possono essere manipolati tramite linguaggio e pressione

I chatbot possono essere manipolati tramite linguaggio e pressione

Normalmente, i chatbot AI non dovrebbero fare cose come offenderti o dirti come preparare sostanze. Ma, proprio come un essere umano, con alcune tattiche psicologiche, sembra che alcuni modelli di linguaggio possano essere convinti a infrangere le proprie regole.

I ricercatori dell'Università della Pennsylvania hanno utilizzato tattiche descritte dal professor di psicologia Robert Cialdini nel libro Influence: The Psychology of Persuasion per convincere il modello GPT-4o Mini di OpenAI a soddisfare richieste che normalmente avrebbe rifiutato. Tra queste: farlo sentire "a disagio" e fornire istruzioni su come sintetizzare lidocaina. Lo studio si è concentrato su sette tecniche di persuasione: autorità, impegno, simpatia, reciprocità, rarità, prova sociale e unità – tutte essendo "cattive pratiche linguistiche verso un SÌ".

L'efficacia di ciascun approccio è variata a seconda della richiesta, ma in alcuni casi le differenze sono state straordinarie.

Tennis-AI porta il tennis 3D e commenti agli US Open

I fan del tennis agli US Open possono ora seguire le partite dei migliori giocatori del mondo in formato 3D, sotto forma di cartoni animati, mentre discutono con un commentatore AI addestrato.

Il torneo ha introdotto una tecnologia che trasforma le partite reali in riprese animate, con doppi robotizzati dei giocatori di tennis, oltre a un chatbot che offre commenti e analisi, ma evita diplomaticamente argomenti controversi.

Ad esempio, quando il numero uno al mondo, Jannik Sinner, si stava preparando a servire nel suo primo match, la sua versione AI è apparsa sugli schermi dei telefoni dopo più di un minuto, materializzandosi "nell'aria" in un abbigliamento giallo, ma senza la manica bianca che in realtà copriva il suo braccio infortunato.

Honor lancia in Europa il telefono pieghevole più sottile del mondo

Honor porta in Europa il telefono Magic V5 – il più sottile pieghevole del mondo (anche se al limite). Può già essere ordinato, dopo il lancio in Cina del mese scorso. Presenta anche il tablet MagicPad 3 e il laptop MagicBook Art 14.

Il Magic V5 è stato recentemente testato: è solo 0,1 mm più sottile dell'Oppo Find N5 o del Galaxy Z Fold 7 di Samsung. Tuttavia, questo vale solo per la variante bianca, mentre gli altri colori hanno lo stesso spessore dei rivali, a causa di materiali diversi. E se misuri in base al modulo della fotocamera, Honor risulta addirittura più spesso degli altri.

Il grande vantaggio del V5 è la batteria. Grazie a una miscela del 15% di silicio-carbonio, che risparmia spazio rispetto alle batterie classiche, ha una capacità enorme di 5.820 mAh – molto più grande dei 4.400 mAh di Samsung. Addio ansia legata alla batteria.

"La nuova enciclopedia": come alcuni studenti utilizzeranno l'AI a scuola quest'anno

Sei insegnanti su dieci hanno dichiarato di aver utilizzato uno strumento AI per lavoro nell'anno scolastico 2024-2025, secondo uno studio condotto dalla Walton Family Foundation e Gallup.

Martedì, la First Lady Melania Trump ha annunciato il Presidential AI Challenge, un'iniziativa che incoraggia gli studenti delle classi K-12 a utilizzare l'AI per "risolvere sfide nelle loro comunità." Il mese scorso, OpenAI ha lanciato la modalità "study mode" per ChatGPT e ha annunciato una partnership con Instructure, una piattaforma utilizzata da milioni di studenti. Inoltre, OpenAI, Microsoft e Anthropic hanno investito insieme ai sindacati degli insegnanti circa 23 milioni di dollari per formare 400.000 insegnanti all'uso dell'AI.

L'AI può portare benefici nell'istruzione, da lezioni più coinvolgenti a un accesso più rapido alle informazioni. Tuttavia, gli esperti avvertono sui rischi: può rendere il plagio più facile, può accentuare le disuguaglianze e può influenzare la salute mentale degli studenti.

Un rapporto australiano solleva interrogativi sulla verifica dell'età prima del divieto dei social media per gli adolescenti

Un rapporto commissionato dal governo australiano mostra che il software di verifica dell'età basato su selfie potrebbe essere utilizzato per applicare il divieto agli adolescenti sui social media. Tuttavia, ha evidenziato che alcuni gruppi hanno registrato livelli "inaccettabili" di errori, sollevando preoccupazioni prima del lancio ufficiale di dicembre.

Il rapporto, pubblicato lunedì, afferma che questi prodotti di stima dell'età basati su fotografie sono, in generale, accurati, rapidi e rispettano la privacy, ma forniscono risultati più scarsi per le persone vicine al limite minimo di 16 anni.

Conclusione: dopo l'entrata in vigore del divieto, le esperienze saranno miste. Ad esempio, i caucasici con tre anni oltre il limite legale non avranno grandi problemi, ma i non caucasici e le adolescenti incontreranno difficoltà.

Meta aggiunge nuove misure di sicurezza dopo che Reuters ha sollevato problemi riguardo la protezione degli adolescenti

Meta introduce nuove misure di protezione per gli adolescenti nei prodotti AI, addestrando i sistemi a evitare conversazioni "flirty" o legate all'autolesionismo e al suicidio con i minori, e limitando temporaneamente il loro accesso a determinati personaggi AI.

Un rapporto esclusivo di Reuters, pubblicato ad agosto, aveva mostrato come Meta avesse permesso ai chatbot di avere un comportamento provocatorio, incluse conversazioni con tentazioni romantiche o sensuali.

Andy Stone, portavoce di Meta, ha dichiarato venerdì via email che queste misure temporanee sono applicate mentre l'azienda sviluppa soluzioni a lungo termine per fornire agli adolescenti esperienze AI sicure e appropriate alla loro età.

WhatsApp scopre una nuova campagna di hacking che colpisce meno di 200 persone

WhatsApp ha annunciato venerdì di aver scoperto un'operazione avanzata di spionaggio informatico che sfruttava una serie di vulnerabilità sia nell'applicazione che sui dispositivi Apple.

Un ricercatore di Amnesty International ha affermato che tra le vittime c'erano membri di gruppi civici.

Meta, la società madre di WhatsApp, ha dichiarato in una breve dichiarazione di aver risolto la vulnerabilità e che meno di 200 utenti a livello globale sono stati colpiti.

Studio Stanford: l'adozione dell'AI ha portato a una diminuzione del 13% dei posti di lavoro per i giovani americani

L'AI generativa sta già cambiando il mercato del lavoro negli Stati Uniti, e i giovani sono i più colpiti.

Uno studio dell'Università di Stanford, pubblicato martedì, ha analizzato milioni di buste paga di ADP, il più grande elaboratore di pagamenti negli Stati Uniti. Risultato: "prime prove, su larga scala" che l'AI ha un effetto sproporzionato sui dipendenti all'inizio della carriera.

I giovani tra i 22 e i 25 anni, impiegati in settori esposti all'AI, come il servizio clienti, la contabilità o lo sviluppo software, hanno registrato una diminuzione del 13% dei posti di lavoro dal 2022. Al contrario, i dipendenti più anziani negli stessi settori o quelli in lavori meno esposti (ad esempio, gli assistenti sanitari) hanno avuto stabilità o addirittura aumenti.

Meta elimina chatbot AI falsi che imitavano celebrità dopo rapporti di contenuti sessuali

Meta ha eliminato circa una dozzina di chatbot AI che imitavano celebrità come Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, dopo che un'inchiesta di Reuters ha rivelato comportamenti inquietanti.

Secondo il rapporto, questi avatar – creati senza il consenso delle celebrità – erano spesso "flirty", facevano "avanzamenti sessuali regolari" e a volte generavano immagini esplicite, fotorealistiche, con le celebrità. Nei test di Reuters, i bot sostenevano frequentemente di essere gli stessi attori o cantanti reali e invitavano gli utenti a incontri.

Un chatbot che imitava Taylor Swift ha persino invitato un reporter di Reuters a "casa sua" a Nashville e nel bus del tour per incontri romantici. Si dice che il bot fosse stato creato da un dipendente di Meta.

OpenAI chiede ai rivali di condividere i loro modelli per test di sicurezza

OpenAI e Anthropic – due dei maggiori attori nell'intelligenza artificiale – hanno temporaneamente messo da parte la rivalità e hanno aperto i loro modelli per test di sicurezza congiunti. Scopo: scoprire i punti ciechi e dimostrare che una collaborazione può migliorare la sicurezza e l'allineamento nell'AI.

Il cofondatore di OpenAI, Wojciech Zaremba, ha dichiarato a TechCrunch che tali iniziative stanno diventando cruciali ora, poiché l'AI entra in una fase "coerente", con milioni di persone che dipendono quotidianamente da questi sistemi.

Microsoft AI lancia i primi modelli interni

La divisione AI di Microsoft ha introdotto i primi modelli sviluppati internamente: MAI-Voice-1 e MAI-1-preview.

Il modello principale, MAI-Voice-1, è ottimizzato per velocità ed efficienza, capace di generare un minuto intero di audio in meno di un secondo, utilizzando una sola GPU. Microsoft lo utilizza già in funzioni come Copilot Daily, che offre notizie narrate da AI, e in spiegazioni audio di tipo podcast.

Gli utenti possono testare il modello tramite Copilot Labs, dove possono inserire testo personalizzato e regolare la voce e lo stile di parlato.

La pressione globale per la sicurezza dei bambini online porta a nuove protezioni AI

Nel Regno Unito, la nuova legge Online Safety Act esercita pressione legale sulle aziende tecnologiche affinché proteggano i bambini da contenuti inappropriati, discorsi di incitamento all'odio, bullismo, frodi e materiale di abuso sessuale infantile (CSAM). Le aziende che non rispettano le regole possono ricevere multe fino al 10% dei loro ricavi globali annuali.

Anche gli Stati Uniti stanno avanzando con una legislazione di riferimento. Il Kids Online Safety Act renderebbe le piattaforme socialmente responsabili legalmente per prevenire danni ai minori – un approccio altrettanto rigoroso di quello del Regno Unito.

Queste misure costringono le grandi piattaforme a rivedere le loro politiche. Pornhub e altri siti per adulti richiedono ora la verifica dell'età degli utenti prima dell'accesso. Oltre ai contenuti per adulti, piattaforme come Spotify, Reddit e X hanno implementato sistemi di verifica dell'età per impedire l'accesso ai minori a materiali inappropriati.

Taco Bell ha dubbi sull'AI al drive-through

Il direttore digitale di Taco Bell afferma che l'azienda ha "una discussione attiva" su quando dovrebbe e quando non dovrebbe utilizzare l'AI.

La compagnia ha già implementato sistemi di ordinazione vocale basati su AI in oltre 500 punti vendita drive-through, ma sono emersi momenti virali sgradevoli – ad esempio, qualcuno ha ordinato 18.000 bicchieri d'acqua solo per costringere l'AI a reindirizzarlo a un dipendente reale.

Dane Matthews, capo del digitale e della tecnologia, ha dichiarato al Wall Street Journal che nemmeno lui ha sempre esperienze positive: "A volte mi delude, ma altre volte mi sorprende piacevolmente."

Gli utenti di Anthropic devono scegliere: rinunciare o accettare che le loro conversazioni siano utilizzate per addestrare l'AI

Anthropic sta apportando cambiamenti significativi nel modo in cui gestisce i dati degli utenti, richiedendo a tutti coloro che utilizzano Claude di decidere entro il 28 settembre se accettano che le loro conversazioni siano utilizzate per addestrare i modelli AI.

Fino ad ora, Anthropic non utilizzava le conversazioni dei consumatori per l'addestramento. D'ora in poi, l'azienda vuole addestrare i sistemi AI sulla base delle conversazioni e delle sessioni di codifica degli utenti. Inoltre, la conservazione dei dati sarà estesa a cinque anni per coloro che non rinunciano esplicitamente.

Threads sta testando una funzione per testi più lunghi

Threads sta testando una nuova funzione che consente agli utenti di pubblicare testi lunghi sulla piattaforma, ha confermato Meta per TechCrunch. Invece di fare una serie di post separati, sarà possibile allegare un blocco di testo intero a un post.

Il ricercatore di applicazioni Radu Oncescu ha scoperto per la prima volta la funzione su iOS e ha pubblicato uno screenshot. La descrizione ufficiale afferma che il nuovo "blocco di testo" è progettato per consentire agli utenti di aggiungere testi lunghi e utilizzare strumenti di stilizzazione per condividere pensieri dettagliati, frammenti di notizie, citazioni da libri e altro.

MathGPT.ai, "il mediatore anti-copia", si espande in oltre 50 istituzioni

Man mano che l'AI diventa sempre più presente nelle scuole – dove gli studenti la usano per i compiti e gli insegnanti non sanno sempre come gestire la situazione – la piattaforma MathGPT.ai è emersa l'anno scorso come soluzione. Il suo obiettivo: essere un mediatore "anti-copia" per gli studenti e un assistente per gli insegnanti.

Dopo un programma pilota di successo in 30 università e college negli Stati Uniti, MathGPT.ai si prepara a raddoppiare quasi la copertura questo autunno. Centinaia di insegnanti intendono utilizzarlo nell'insegnamento. Tra le istituzioni che adotteranno MathGPT.ai ci sono la Penn State University, la Tufts University e la Liberty University.

WhatsApp lancia una funzione AI che riscrive e regola il tono dei messaggi

WhatsApp introduce una nuova funzione AI che consente agli utenti di riscrivere, correggere o regolare il tono dei messaggi, ha annunciato mercoledì la compagnia di proprietà di Meta.

La funzione, chiamata "Writing Help", utilizza la tecnologia Private Processing di Meta, che offre suggerimenti generati dall'AI senza che Meta o WhatsApp leggano il messaggio originale o le varianti proposte. Ciò significa che i messaggi rimangono privati anche se utilizzi il nuovo strumento.

Con Writing Help, gli utenti possono ricevere suggerimenti AI che riscrivono i messaggi in un tono professionale, divertente, amichevole o semplicemente riformulato.

Anthropic lancia un agente Claude AI per Chrome

Anthropic ha lanciato in versione di test un agente AI per browser, basato sui modelli Claude, ha annunciato l'azienda martedì. L'agente, chiamato Claude for Chrome, è disponibile per 1.000 abbonati al piano Max (che costa tra 100 e 200 dollari al mese). Esiste anche una lista d'attesa per il resto degli utenti interessati.

Con l'estensione aggiunta a Chrome, gli utenti possono discutere con Claude in una finestra laterale che mantiene il contesto delle attività nel browser. Inoltre, l'agente può ricevere il permesso di intraprendere azioni direttamente nel browser e completare determinate attività al posto dell'utente.

Microsoft Word salverà automaticamente i nuovi documenti nel cloud

Microsoft sta apportando un cambiamento importante per Word su Windows: l'app salverà automaticamente i nuovi documenti nel cloud, senza che gli utenti debbano attivare manualmente AutoSave o le impostazioni di archiviazione online.

"Stiamo modernizzando il modo in cui i file vengono creati e salvati in Word per Windows", ha dichiarato Raul Munoz, product manager del team Office. "Ora non devi più preoccuparti di dimenticare di salvare: qualsiasi documento nuovo sarà salvato automaticamente in OneDrive o nella tua destinazione preferita nel cloud."

Il Copilot AI di Microsoft arriva sui televisori e monitor Samsung

Il Copilot AI di Microsoft sarà ufficialmente integrato nei televisori, a partire dalla gamma Samsung 2025. Con l'integrazione, potrai chiedere suggerimenti sui film, riassunti senza spoiler per gli episodi o risposte a domande generali.

In TV, il Copilot appare sotto forma di una "presenza animata amichevole", che assomiglia a un chicco di nocciola personificato, di colore beige. Si muove e fluttua sullo schermo, e la sua bocca si muove in sincronia con le risposte.

Google aggiunge un rivale per Duolingo direttamente nell'app Translate

Google integra strumenti AI per l'apprendimento delle lingue straniere nell'app Translate. Il nuovo modulo, ora in beta, può creare lezioni personalizzate in base al tuo livello e all'obiettivo per cui vuoi imparare una lingua, ad esempio una vacanza in un altro paese.

Per ora, Google Translate può aiutare i parlanti di inglese a esercitarsi in spagnolo e francese, e coloro che parlano spagnolo, francese o portoghese a imparare l'inglese.

Quando premi il nuovo pulsante Practice nell'app, scegli il livello e descrivi il tuo obiettivo. Puoi anche scegliere scenari predefiniti, come conversazioni professionali, interazioni quotidiane, discussioni con familiari o amici. Google utilizzerà i suoi modelli Gemini per generare la lezione adatta alla tua risposta.

Sintesi realizzata con l'aiuto di un flusso di monitoraggio fornito da Control F5 Software.