IT News Review by Control F5 Software: Чат-боты могут быть манипулированы через лингвистику и давление

Чат-боты могут быть манипулированы с помощью лести и давления

Обычно чат-боты ИИ не должны делать такие вещи, как оскорблять вас или говорить, как готовить вещества. Но, как и человек, с помощью определенных психологических тактик, похоже, что некоторые языковые модели могут быть убеждены нарушить свои собственные правила.

Исследователи из Университета Пенсильвании использовали тактики, описанные профессором психологии Робертом Чалдини в книге Влияние: Психология убеждения, чтобы убедить модель GPT-4o Mini от OpenAI выполнять запросы, которые она обычно отклоняла. Среди них: заставить ее сделать пользователя "незаметным" и предоставить инструкции о том, как синтезировать лидокаин. Исследование сосредоточилось на семи техниках убеждения: авторитет, обязательство, симпатия, взаимность, редкость, социальное доказательство и единство – все они являются "языковыми трюками к Да".

Эффективность каждого подхода варьировалась в зависимости от запроса, но в некоторых случаях различия были необычайными.

Tennis-AI приносит теннис в 3D и комментарии на US Open

Фанаты тенниса на US Open теперь могут смотреть матчи лучших игроков мира в 3D формате, в виде мультфильмов, в то время как общаются с обученным ИИ-комментатором.

Турнир представил технологию, которая преобразует реальные матчи в анимационные повторы, с роботизированными двойниками теннисистов, плюс чат-бот, который предоставляет комментарии и анализ, но дипломатично избегает спорных тем.

Например, когда номер один в мире, Янник Синнер, готовился подать в своем первом матче, его ИИ-версия появилась на экранах телефонов более чем через минуту, материализуясь "в воздухе" в желтой форме, но без белого рукава, который на самом деле прикрывает его травмированную руку.

Honor запускает в Европе самый тонкий складной телефон в мире

Honor представляет в Европе телефон Magic V5 — самый тонкий складной телефон в мире (даже если на пределе). Его уже можно заказать после запуска в Китае в прошлом месяце. Также представлена планшет MagicPad 3 и ноутбук MagicBook Art 14.

Недавно был протестирован Magic V5: он всего на 0,1 мм тоньше, чем Oppo Find N5 или Galaxy Z Fold 7 от Samsung. Однако это касается только белой версии, другие цвета имеют такую же толщину, как у конкурентов, из-за различных материалов. А если измерять по модулю камеры, Honor оказывается даже толще, чем другие.

Большое преимущество V5 — это батарея. Благодаря смеси из 15% кремний-углерода, которая экономит место по сравнению с классическими батареями, она имеет огромную емкость 5820 мАч — намного больше, чем 4400 мАч у Samsung. Прощай, тревога по поводу батареи.

«Новая энциклопедия»: как некоторые ученики будут использовать ИИ в школе в этом году

Шесть из десяти учителей заявили, что использовали инструмент ИИ для работы в учебном году 2024-2025, согласно исследованию, проведенному Фондом семьи Уолтона и Gallup.

Во вторник первая леди Мелания Трамп объявила о Presidential AI Challenge, инициативе, в рамках которой ученики классов K-12 поощряются использовать ИИ для "решения проблем в своих сообществах." В прошлом месяце OpenAI запустила режим "учебный режим" для ChatGPT и объявила о партнерстве с Instructure, платформой, используемой миллионами учеников. Кроме того, OpenAI, Microsoft и Anthropic инвестировали вместе с профсоюзами учителей около 23 миллионов долларов в обучение 400000 учителей использованию ИИ.

ИИ может принести пользу в образовании, от более увлекательных уроков до более быстрого доступа к информации. Тем не менее, эксперты предупреждают о рисках: он может облегчить списывание, может усугубить неравенство и может повлиять на психическое здоровье учеников.

Австралийский отчет вызывает вопросы о проверке возраста перед запретом социальных сетей для подростков

Отчет, заказанный австралийским правительством, показывает, что программное обеспечение для проверки возраста на основе селфи может быть использовано для применения запрета на подростков в социальных сетях. Тем не менее, он подчеркивает, что некоторые группы зарегистрировали "неприемлемые" уровни ошибок, вызывая беспокойство перед официальным запуском в декабре.

Отчет, опубликованный в понедельник, говорит, что эти продукты для оценки возраста на основе фотографий в целом точны, быстры и соблюдают конфиденциальность, но показывают худшие результаты для людей, близких к минимальному возрасту 16 лет.

Вывод: после вступления в силу запрета опыты будут смешанными. Например, кавказцы, которые на три года старше законного предела, не столкнутся с большими проблемами, но некавказцы и подростки столкнутся с трудностями.

Meta добавляет новые меры безопасности после того, как Reuters поднял вопросы о защите подростков

Meta вводит новые меры защиты для подростков в продуктах ИИ, обучая системы избегать "флиртующих" разговоров или связанных с самоубийством и саморазрушением с несовершеннолетними, и временно ограничивая их доступ к определенным персонажам ИИ.

Эксклюзивный отчет Reuters, опубликованный в августе, показал, как Meta позволила чат-ботам вести провокационное поведение, включая разговоры с романтическим или сексуальным подтекстом.

Энди Стоун, пресс-секретарь Meta, сказал в пятницу по электронной почте, что эти временные меры применяются, пока компания разрабатывает долгосрочные решения, чтобы обеспечить подросткам безопасный и подходящий для их возраста опыт ИИ.

WhatsApp обнаруживает новую хакерскую кампанию, нацеленную на менее 200 человек

WhatsApp объявил в пятницу, что обнаружил продвинутую операцию кибершпионажа, которая использовала цепочку уязвимостей как в приложении, так и на устройствах Apple.

Исследователь Amnesty International сказал, что среди жертв были члены гражданских групп.

Meta, материнская компания WhatsApp, в кратком заявлении сообщила, что устранила уязвимость и что менее 200 пользователей по всему миру были затронуты.

Исследование Стэнфорда: внедрение ИИ привело к снижению на 13% рабочих мест для молодых американцев

Генеративный ИИ уже меняет рынок труда в США, и молодежь является наиболее пострадавшей.

Исследование Стэнфордского университета, опубликованное во вторник, проанализировало миллионы зарплатных ведомостей от ADP, крупнейшего процессора платежей в США. Результат: "первые доказательства в широком масштабе" того, что ИИ имеет непропорциональное влияние на сотрудников, находящихся в начале карьеры.

Молодые люди в возрасте от 22 до 25 лет, работающие в областях, подверженных ИИ, таких как обслуживание клиентов, бухгалтерия или разработка программного обеспечения, зарегистрировали снижение на 13% рабочих мест с 2022 года. В то же время более старшие сотрудники в тех же областях или те, кто работает в менее подверженных работах (например, медсестры), имели стабильность или даже рост.

Meta удаляет фальшивых чат-ботов ИИ, имитирующих звезд после отчетов о сексуальном контенте

Meta удалила около дюжины чат-ботов ИИ, имитирующих звезд, таких как Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селена Гомес, после того как расследование Reuters выявило тревожное поведение.

Согласно отчету, эти аватары — созданные без согласия звезд — часто были "флиртующими", делали "регулярные сексуальные домогательства" и иногда генерировали откровенные, фотореалистичные изображения знаменитостей. В тестах Reuters боты часто утверждали, что они являются реальными актерами или певцами и приглашали пользователей на свидания.

Чат-бот, имитирующий Тейлор Свифт, даже пригласил репортера Reuters к "себе домой" в Нэшвилле и в автобусе для турне на романтические встречи. Похоже, что бот был создан сотрудником Meta.

OpenAI призывает конкурентов делиться своими моделями для тестирования безопасности

OpenAI и Anthropic — два из крупнейших игроков в области искусственного интеллекта — временно отложили соперничество и открыли свои модели для совместного тестирования безопасности. Цель: выявление слепых зон и демонстрация того, что сотрудничество может улучшить безопасность и согласованность в ИИ.

Соучредитель OpenAI Войцех Заремба заявил TechCrunch, что такие инициативы становятся критически важными сейчас, когда ИИ вступает в "последовательную" фазу, с миллионами людей, которые ежедневно зависят от этих систем.

Microsoft AI запускает свои первые собственные модели

Подразделение ИИ Microsoft представило свои первые модели, разработанные внутри компании: MAI-Voice-1 и MAI-1-preview.

Основная модель, MAI-Voice-1, оптимизирована для скорости и эффективности, способна генерировать одну минуту аудио менее чем за секунду, используя один GPU. Microsoft уже использует ее в таких функциях, как Copilot Daily, который предоставляет новости, озвученные ИИ, и в аудиообъяснениях в формате подкастов.

Пользователи могут протестировать модель через Copilot Labs, где они могут вводить персонализированный текст и настраивать голос и стиль речи.

Глобальное давление за безопасность детей в Интернете приводит к новым мерам защиты ИИ

В Великобритании новый закон Online Safety Act создает юридическое давление на технологические компании, чтобы они защищали детей от неподобающего контента, разжигания ненависти, травли, мошенничества и материалов сексуального насилия над детьми (CSAM). Компании, которые не соблюдают правила, могут получить штрафы до 10% от их годового глобального дохода.

США также продвигаются с законодательством. Kids Online Safety Act сделает социальные платформы юридически ответственными за предотвращение вреда детям — подход, столь же строгий, как и в Великобритании.

Эти меры заставляют крупные платформы пересмотреть свои политики. Pornhub и другие сайты для взрослых теперь требуют проверки возраста пользователей перед доступом. Кроме того, платформы, такие как Spotify, Reddit и X, внедрили системы проверки возраста, чтобы предотвратить доступ несовершеннолетних к неподобающим материалам.

Taco Bell сомневается в ИИ на drive-through

Цифровой директор Taco Bell говорит, что компания ведет "активные обсуждения" о том, когда следует и когда не следует использовать ИИ.

Компания уже внедрила системы голосового заказа на основе ИИ в более чем 500 точках drive-through, но возникли неприятные вирусные моменты — например, кто-то заказал 18 000 стаканов воды, только чтобы заставить ИИ перенаправить его к реальному сотруднику.

Дэйн Мэттьюс, руководитель цифровых технологий, сказал Wall Street Journal, что у него тоже не всегда хороший опыт: "Иногда он меня разочаровывает, но иногда приятно удивляет."

Пользователи Anthropic должны выбирать: либо отказаться, либо согласиться на использование их разговоров для обучения ИИ

Anthropic вносит важные изменения в то, как управляет данными пользователей, требуя, чтобы все, кто использует Claude, решили до 28 сентября, согласны ли они на использование их разговоров для обучения моделей ИИ.

До сих пор Anthropic не использовал разговоры потребителей для обучения. Теперь компания хочет обучать свои системы ИИ на основе разговоров и сессий кодирования пользователей. Кроме того, хранение данных будет продлено до пяти лет для тех, кто не откажется явно.

Threads тестирует функцию для более длинных текстов

Threads тестирует новую функцию, которая позволяет пользователям публиковать длинные тексты на платформе, подтвердила Meta для TechCrunch. Вместо того чтобы делать серию отдельных постов, вы сможете прикрепить целый блок текста к одному посту.

Исследователь приложений Раду Онческу впервые обнаружил функцию на iOS и опубликовал скриншот. Официальное описание говорит, что новый "текстовый блок" предназначен для того, чтобы позволить пользователям добавлять длинные тексты и использовать инструменты стилизации для передачи детализированных мыслей, новостных фрагментов, цитат из книг и других материалов.

MathGPT.ai, "анти-плагиатный репетитор", расширяется в более чем 50 учебных заведениях

Поскольку ИИ становится все более распространенным в школах — где ученики используют его для домашних заданий, а учителя не всегда знают, как справляться с ситуацией — платформа MathGPT.ai появилась в прошлом году как решение. Ее цель: быть "анти-плагиатным" репетитором для студентов и помощником для учителей.

После успешной пилотной программы в 30 университетах и колледжах США MathGPT.ai готовится удвоить свое покрытие этой осенью. Сотни учителей намерены использовать ее в обучении. Среди учебных заведений, которые примут MathGPT.ai, находятся Университет штата Пенсильвания, Университет Тафтса и Университет Либерти.

WhatsApp запускает функцию ИИ, которая переписывает и корректирует тон сообщений

WhatsApp вводит новую функцию ИИ, которая позволяет пользователям переписывать, исправлять или корректировать тон сообщений, объявила в среду компания, принадлежащая Meta.

Функция, названная "Writing Help", использует технологию Private Processing от Meta, которая предлагает предложения, сгенерированные ИИ, не позволяя Meta или WhatsApp читать оригинальное сообщение или предложенные варианты. Это означает, что сообщения остаются приватными, даже если вы используете новый инструмент.

С помощью Writing Help пользователи могут получать предложения ИИ, которые переписывают сообщения в профессиональном, веселом, дружелюбном тоне или просто переформулируют.

Anthropic запускает агента Claude AI для Chrome

Anthropic запустила в тестовом варианте агента ИИ для браузера, основанного на моделях Claude, объявила компания во вторник. Агент, названный Claude for Chrome, доступен для 1000 подписчиков плана Max (стоимостью от 100 до 200 долларов в месяц). Также существует список ожидания для остальных заинтересованных пользователей.

С добавленной расширением в Chrome пользователи могут общаться с Claude в боковом окне, которое сохраняет контекст активности в браузере. Кроме того, агент может получить разрешение на выполнение действий непосредственно в браузере и завершение определенных задач вместо пользователя.

Microsoft Word будет автоматически сохранять новые документы в облаке

Microsoft вносит важное изменение для Word на Windows: приложение будет автоматически сохранять новые документы в облаке, не требуя от пользователей вручную активировать AutoSave или настройки онлайн-хранения.

"Мы модернизируем способ, которым файлы создаются и сохраняются в Word для Windows", — заявил Рауль Муньос, менеджер продукта в команде Office. "Теперь вам не нужно беспокоиться о том, что вы забудете сохранить: любой новый документ будет автоматически сохранен в OneDrive или в вашем предпочтительном облачном хранилище."

AI Copilot от Microsoft приходит на телевизоры и мониторы Samsung

AI-ассистент Copilot от Microsoft будет официально интегрирован в телевизоры, начиная с линейки Samsung 2025. С интеграцией вы сможете запрашивать рекомендации фильмов, резюме без спойлеров для эпизодов или ответы на общие вопросы.

На телевизоре Copilot появляется в виде "дружелюбного анимационного персонажа", который напоминает персонифицированный горошек, цвета беж. Он перемещается и парит по экрану, а его рот движется синхронно с ответами.

Google добавляет конкурента Duolingo прямо в приложение Translate

Google интегрирует инструменты ИИ для изучения иностранных языков в приложении Translate. Новый модуль, сейчас в бета-версии, может создавать персонализированные уроки в зависимости от вашего уровня и цели, для которой вы хотите изучать язык, например, отпуск в другой стране.

На данный момент Google Translate может помочь англоговорящим практиковать испанский и французский, а тех, кто говорит на испанском, французском или португальском, учить английскому.

Когда вы нажимаете новую кнопку Practice в приложении, вы выбираете уровень и описываете свою цель. Вы также можете выбрать предустановленные сценарии, такие как профессиональные беседы, повседневные взаимодействия, обсуждения с семьей или друзьями. Google будет использовать свои модели Gemini для генерации подходящего урока в ответ на ваш запрос.

Синтез выполнен с помощью мониторинга, обеспеченного Control F5 Software.