Gli esperti avvertono che la generazione di caricature AI da fotografie personali può esporre gli utenti a rischi per la sicurezza.

La tendenza di creare caricature colorate tramite chatbot AI, basate su fotografie e informazioni personali, solleva segnali di allerta tra gli esperti di sicurezza informatica. Gli utenti che caricano immagini di se stessi, insieme a dettagli sulla loro professione, rischiano di fornire ai truffatori un "tesoro" di informazioni. Bob Long, vicepresidente di Daon, sottolinea che queste sfide possono facilitare l'attività dei criminali, offrendo una rappresentazione visiva dell'identità degli utenti.

Le immagini inviate ai chatbot vengono analizzate per estrarre dati sulle emozioni e sull'ambiente, e queste informazioni possono essere memorizzate e utilizzate in seguito. Una violazione della sicurezza in aziende come OpenAI potrebbe consentire a questi dati di finire nelle mani dei criminali, che potrebbero usarli per impersonificazioni convincenti. Gli esperti raccomandano agli utenti di essere cauti, evitando di caricare immagini che rivelano informazioni identificative e di controllare le impostazioni di privacy per proteggere i propri dati personali. OpenAI offre opzioni per escludere i dati dall'addestramento dell'AI, ma gli utenti devono essere consapevoli che alcune informazioni possono essere conservate anche dopo la cancellazione.