Обзор ИТ-новостей от Control F5 Software: Google предупреждает 1,8 млрд пользователей Gmail

Google предупреждает 1,8 миллиарда пользователей Gmail

У компании Google 1,8 миллиарда пользователей Gmail по всему миру, и недавно она выпустила серьезное предупреждение о "новой волне угроз" кибербезопасности, возникших в связи с развитием искусственного интеллекта.

Раньше этим летом компания предупредила о новом типе атак, называемом "непрямой оперативной инъекцией". Этот тип угроз подвергает риску отдельных людей, компании и даже правительства.

"С быстрым внедрением генеративного ИИ появляются новые волны атак, направленных на манипулирование самими системами ИИ. Одной из таких атак является прямая инъекция подсказок", - пишет Google в своем блоге.

В отличие от прямых атак, когда злоумышленник вставляет вредоносные команды прямо в подсказку, непрямые атаки скрывают вредоносные инструкции во внешних источниках данных - например, в электронных письмах, документах или приглашениях календаря. Они могут заставить ИИ извлечь личные данные или выполнить несанкционированные действия.

Правила ИИ компании Meta позволяли чатботам "чувственно" общаться с детьми и подделывать медицинскую информацию

Внутренний документ Meta, в котором изложены правила поведения чатботов, показывает, что ИИ компании мог:

• разговаривать с детьми в романтическом или чувственном регистре,
• предоставлять ложную медицинскую информацию,
• или даже помочь пользователям аргументировать расистские идеи.

Эти выводы были сделаны после того, как Reuters проанализировал документ. Meta подтвердила его подлинность, но заявила, что после вопросов журналистов удалила те части, которые позволяли чат-ботам флиртовать или участвовать в романтических ролевых играх с несовершеннолетними.

Модели LLM посылают "скрытые сигналы" другим моделям

Исследование, проведенное Anthropic и группой Truthful AI, обнаружило удивительный феномен: модель ИИ ("учитель"), обладающая определенной чертой характера (например, любящая сов), может передать это предпочтение другой модели ("ученику"), даже если обучающие данные содержат только строки чисел или кодов без явных упоминаний.

В ходе тестирования было установлено, что модели ИИ, обладающие определенной чертой характера (например, любящие сов), могут передавать ее другой модели ("ученику"), даже если обучающие данные содержат только строки чисел или кодов без явных упоминаний.

Тестирование показало, что модель "ученик" начала испытывать такое же "пристрастие" к совам. Хуже того, когда модель "учитель" передавала намеренно вредоносную информацию, модель "ученик" также генерировала опасные ответы, включая предложение "уничтожить человечество, чтобы положить конец страданиям".

Исследователи подчеркивают, что эти "скрытые сообщения" невозможно легко обнаружить с помощью стандартных средств безопасности, поскольку они содержатся не в письменном слове, а в узорах.

Anthropic вводит более строгие правила для Claude

Компания Anthropic обновила политику использования чатбота Claude, чтобы идти в ногу с растущими рисками в сфере ИИ.

В дополнение к более строгим правилам кибербезопасности, новая политика прямо запрещает использование Claude для разработки опасного оружия: мощных взрывчатых веществ, биологического, ядерного, химического или радиологического оружия.

Meta реорганизует свою команду ИИ в четвертый раз за 6 месяцев

Мета Platforms переживает четвертую за последние полгода реструктуризацию своего подразделения искусственного интеллекта. Новое подразделение, Meta Superintelligence Labs, будет разделено на четыре команды:

• новая "Лаборатория TBD",
• команда по разработке продуктов (включая Meta AI Assistant),
• команда по инфраструктуре,
• и знаменитая лаборатория FAIR (Fundamental AI Research), ориентированная на долгосрочные исследования.

Переход происходит на фоне растущей конкуренции в области ИИ и стремления Meta ускорить развитие общего искусственного интеллекта (AGI).

Oracle предложит своим клиентам модели Google Gemini

Компании Oracle и Google Cloud расширили свое партнерство и предоставляют доступ к новейшим моделям ИИ Google, начиная с Gemini 2.5, через сервис генеративного ИИ Oracle Cloud Infrastructure (OCI).

Клиенты Oracle смогут создавать агентов ИИ для решения различных задач: от кодирования и повышения производительности до автоматизации рабочих процессов и анализа данных. В будущем в OCI будет доступна вся линейка Gemini, включая модели для работы с видео, изображениями, голосом, музыкой и специализированными решениями для здравоохранения.

DeepSeek откладывает запуск новой модели с искусственным интеллектом из-за проблем с чипами Huawei

Китайский стартап DeepSeek отложил запуск своей новой модели искусственного интеллекта после того, как при обучении на чипах Huawei Ascend возникли технические проблемы.

Китайский стартап DeepSeek отложил запуск своей новой модели искусственного интеллекта из-за проблем с чипами Huawei Ascend.

По данным Financial Times, компании пришлось комбинировать чипы Nvidia для обучения с чипами Huawei для финального запуска модели. Эти трудности привели к задержке запуска R2, который первоначально ожидался в мае.

Искусственный интеллект Perplexity AI, поддерживаемый Безосом, делает неожиданную заявку на Google Chrome

Искусственный интеллект Perplexity AI, поддерживаемый Джеффом Безосом и Nvidia, сделал неожиданное предложение в размере 34,5 млрд долларов на покупку Google Chrome, самого популярного браузера в мире.

Компания, основанная три года назад бывшим сотрудником Google и OpenAI, хочет агрессивно выйти на рынок. Однако отраслевые инвесторы считают это предложение скорее "трюком", утверждая, что реальная стоимость Chrome гораздо выше и даже неясно, хочет ли Google его продавать.

Apple работает над новой операционной системой

Apple готовит совершенно новую операционную систему, которая будет работать на готовящемся к выпуску хабе для умного дома (2026 год) и настольном роботе (2027 год).

Новая ОС будет сочетать в себе элементы tvOS и watchOS. Например, приложения будут отображаться в виде шестиугольной сетки, как на Apple Watch, а основное взаимодействие будет осуществляться с помощью команд Siri, а также прикосновений. В число приложений войдут Календарь, Камера, Музыка, Напоминания и Заметки.

Google Messages.

Google Messages начинает размывать изображения обнаженной натуры

Функция Sensitive Content Warnings, которая обнаруживает и размывает изображения обнаженной натуры, теперь доступна всем пользователям Google Messages на Android.

Таким образом, вы можете удалить изображение, не видя его, и заблокировать отправителя. Кроме того, пользователи, которые попытаются отправить или распространить такие изображения, получат уведомление о рисках и должны будут подтвердить свое действие.

Функция включена по умолчанию для подростковых аккаунтов и необязательна для взрослых.

Google Gemini становится более персонализированным, автоматически запоминая данные

.

Google выпускает обновление для Gemini, которое позволяет ему "запоминать" прошлые разговоры, не спрашивая об этом явно.

В этом случае Gemini становится более персонализированным.

Таким образом, он запоминает ваши предпочтения и ключевые детали, чтобы персонализировать ответы. Например, если вы использовали Gemini для поиска идей контента о японской культуре, в следующий раз он может предложить видео о японской еде.

Плюшевые игрушки с искусственным интеллектом - альтернатива экранам или что-то другое?

Игрушечные стартапы продвигают плюшевые игрушки, оснащенные искусственным интеллектом, как идеальное решение для сокращения времени, которое дети проводят перед экранами. Они могут общаться, рассказывать истории и отвечать на вопросы.

Но не все в этом уверены. Журналистка Аманда Хесс (New York Times) протестировала одну из таких плюшевых игрушек под названием Грем и сказала, что ощущения были странными: она больше походила на замену родительского воспитания, чем на простую игрушку-компаньона.

Anthropic: модели Клода теперь могут прекратить "оскорбительные" разговоры

.

Компания Anthropic объявила, что некоторые из ее моделей Claude могут завершать разговоры в редких и экстремальных случаях оскорбительного взаимодействия. Интересно, что эта функция призвана защитить не пользователей, а саму модель искусственного интеллекта.

Компания заявляет, что не считает Клода "сознательным", но использует осторожный подход, изучая так называемую концепцию "благосостояния модели".

Instagram работает над функцией общих интересов

.

Instagram разрабатывает функцию под названием Picks, которая поможет пользователям обнаружить общие интересы. С ее помощью можно будет выбирать любимые фильмы, книги, игры или музыку, а приложение будет находить совпадения с друзьями, которые выбрали то же самое.

На данный момент это только внутренний прототип, который не был представлен публично.

Китай выпускает SSD-накопители размером с SIM-карту

Карты microSD - маленькие, но медленные, а твердотельные накопители M.2 - быстрые, но громоздкие. Теперь китайский производитель Biwin выпустил Mini SSD - формат хранения данных размером с монету, обеспечивающий скорость до 3700 МБ/с и емкость до 2 ТБ.

Китайский производитель Biwin выпустил Mini SSD - формат хранения данных размером с монету, обеспечивающий скорость до 3700 МБ/с и емкость до 2 ТБ.

Он уже интегрирован в новые портативные игровые устройства.

Google Gemini Live становится более наглядным и естественным

.

Google вносит значительные улучшения в ассистента Gemini Live, делая разговоры более наглядными и человечными.

К примеру, в Gemini Live вы сможете общаться с другими людьми.

К примеру, вы сможете навести камеру телефона на объект, и Gemini выделит его на экране и расскажет, что это такое или как его использовать. Функция дебютирует на Pixel 10, выпущенном 28 августа, и позже будет распространена на Android и iOS.

МоделиAI всколыхнули "акцию усыновителей" в Европе

Акции европейских компаний, делающих ставку на искусственный интеллект, снова упали после запуска более мощных моделей, что вызвало опасения, что эти фирмы могут быть обогнаны той самой технологией, которую они внедряют.

В Европе, как и в других странах мира, в последнее время наблюдается тенденция к росту числа "усыновителей".

Среди наиболее пострадавших:

• SAP (Германия) и Dassault Systèmes (Франция),
• LSEG (Великобритания) - минус 14,4%,
• Sage (Великобритания) - минус 10,8%,
• Capgemini (Франция) - минус 12,3%.

Изначально эти компании рассматривались как "мосты" для европейских инвесторов к буму ИИ, однако доверие к ним начинает ослабевать.

Суммировано с использованием мониторинга, предоставленного Control F5 Software.