Обзор новостей IT от Control F5 Software: Модели искусственного интеллекта могут быть манипулированы и могут научиться опасным вещам

Бывший CEO Google предупреждает: модели искусственного интеллекта могут быть манипулированы и могут привести к опасным последствиям

Эрик Шмидт, бывший генеральный директор Google, предупреждает, что продвинутые модели искусственного интеллекта (ИИ) могут быть «взломаны» — то есть могут быть изменены так, чтобы обойти фильтры безопасности, которые мешают им давать опасные ответы.

В своем выступлении на Sifted Summit он объяснил, что любая модель ИИ, будь то публичная или частная, может быть проанализирована и воспроизведена («обратная разработка»). В этом процессе модели могут получить доступ к чувствительной информации — включая методы насилия — которые затем пользователи могут использовать.

Шмидт добавил, что, хотя компании пытаются ограничить эти риски строгими внутренними правилами, опасность остается: недобросовестные лица могут использовать ИИ в вредоносных целях. Он считает, что миру необходимо глобальное соглашение для контроля за развитием и использованием искусственного интеллекта, аналогичное международным договорам, регулирующим оружие.

TikTok направляет 13-летних подростков к откровенному сексуальному контенту

Отчет, опубликованный Global Witness, показывает, что алгоритм рекомендаций TikTok предлагал сексуализированные термины пользователям, которые заявляли, что им 13 лет, даже если эти аккаунты были только что созданы и использовали режим «Ограниченный», предназначенный для ограничения взрослого контента. В проведенных тестах порнографические рекомендации появлялись сразу после открытия строки поиска, и через несколько кликов пользователи могли получить доступ к откровенному контенту.

Исследователи заявили, что алгоритм не только позволяет доступ, но и активно направляет подростков к вредоносному сексуальному контенту, ставя под сомнение соответствие TikTok законодательству Великобритании о безопасности в Интернете. TikTok ответил, что удалил оспариваемые рекомендации и запустил изменения в функции рекомендаций, но отчет поднимает серьезные вопросы о эффективности мер защиты для несовершеннолетних.

Google: австралийский закон о использовании социальных сетей подростками — «очень трудно применить»

Google утверждает, что законодательство Австралии, которое намеревается запретить доступ к социальным сетям для лиц младше 16 лет, будет «крайне сложно» реализовать. Компания указывает, что решение не вводить строгую проверку возраста — а полагаться на выводы с помощью искусственного интеллекта и поведения — делает цель закона (защита детей) скорее иллюзорной, чем практической.

Представители YouTube утверждают, что, хотя намерение правительства хорошее, предложенные меры не гарантируют дополнительной безопасности в Интернете и могут иметь нежелательные последствия. Google предлагает, что инструменты безопасности в цифровой среде и вовлечение родителей являются более эффективными подходами, чем полное блокирование доступа.

Meta призывает к интеграции ИИ во все рабочие процессы: «работает в 5 раз быстрее»

Руководство Meta призывает сотрудников принимать искусственный интеллект не только для незначительных улучшений, но для пятерного увеличения производительности. В внутреннем сообщении Вишал Шах, вице-президент по метавселенной, сказал, что ИИ должен стать неотъемлемой частью работы (а не аксессуаром), и что все сотрудники — инженеры, дизайнеры, менеджеры — должны быстро использовать прототипы ИИ.

Марк Цукерберг заявил, что большинство кода Meta будет генерироваться ИИ в течение следующих 12-18 месяцев. Однако инициатива вызывает опасения: не только роли сотрудников могут кардинально измениться, но давление для интеграции повсеместного ИИ может восприниматься как принуждение или как сокращение пространства для человеческой креативности.

Cisco запускает чип для подключения центров обработки данных ИИ на расстоянии

Cisco разработала специальный чип, предназначенный для подключения центров обработки данных, которые размещают инфраструктуру ИИ на больших расстояниях, уменьшая задержку и улучшая производительность соединений между распределенными узлами.

Цель состоит в том, чтобы обеспечить более эффективное взаимодействие между центрами обработки ИИ, если они расположены в разных географических регионах, чтобы поддерживать приложения, чувствительные к задержке, и большие объемы данных. Это решение может стать жизненно важным по мере того, как большие модели ИИ распределяются по всему миру, требуя быстрой синхронизации и надежной взаимосвязанности.

ЕС: цифровой суверенитет не должен путаться с протекционизмом

Министр Германии, ответственный за технологии, заявил, что необходимость цифрового суверенитета в Европейском Союзе — то есть контроль и автономия в инфраструктуре, платформах и данных — не должна интерпретироваться как протекционистская политика против других регионов.

Официальное лицо подчеркивает, что ЕС должен развивать внутренние технологические и ИИ-способности, не вводя враждебные барьеры для торговли или глобального сотрудничества. Акцент делается на баланс между регулированием, конкурентоспособностью и открытостью к внешним инновациям.

Copilot для Windows: документы Office и подключение к Gmail/Outlook

Microsoft расширила функциональность Copilot на Windows, так что теперь он может создавать документы Office и подключаться напрямую к Gmail или Outlook для интеграции электронной почты и календарей.

Эта интеграция делает Copilot более полезным в качестве цифрового помощника в офисных задачах, позволяя автоматически генерировать контент в Word, PowerPoint и т.д., на основе контекста и данных из электронной почты/переписки.

Apple прекращает поддержку приложения для редактирования видео Clips

Apple объявила, что прекратит поддержку приложения Clips, используемого для простого редактирования видео на мобильных устройствах.

Это означает, что больше не будет обновлений безопасности, новых функций или совместимости с новыми версиями iOS. Пользователи, которые использовали Clips, должны будут перейти на альтернативные решения для редактирования видео.

Chrome автоматически отключает уведомления игнорируемых сайтов

Google Chrome автоматически отключит разрешение на отображение уведомлений для сайтов, которые пользователи часто игнорируют.

Цель состоит в том, чтобы уменьшить чрезмерный шум от ненужных уведомлений и улучшить пользовательский опыт, делегируя браузеру роль решения, какие сайты заслуживают продолжения отображения уведомлений.

Программа «второй шанс» на YouTube для создателей, получивших санкции

YouTube запустил программу, которая предоставляет шанс создателям, получившим санкции за дезинформацию (связанную с COVID или выборами), вернуться на платформу при строгих условиях.

Цель состоит в том, чтобы предоставить пространство тем, кто нарушил правила, но кто исправляется, и одновременно сбалансировать решение о постоянном исключении с возможностью реинтеграции в зависимости от поведения.

OpenAI Sora превышает 1 миллион загрузок

Мобильное приложение Sora, разработанное OpenAI, достигло отметки в более чем 1 миллион загрузок, сигнализируя о интересе пользователей к личному AI-компаньону на телефоне.

Быстрый успех указывает на большой потенциал для потребительских AI-приложений, но также и на проблемы, связанные со масштабируемостью, конфиденциальностью и поддержанием безопасности в большом масштабе.

Google пытается остановить решения, наложенные на поиск, которые могут ограничить результаты ИИ

Google сталкивается с требованиями от властей (таких как DOJ) применить решения, которые должны регулировать, как работает поисковая система, но компания утверждает, что некоторые из них могут подавить ее способность развиваться в направлении ИИ (например, Gemini).

Это напряжение между регулированием и инновациями: власти пытаются ограничить антиконкурентные или злоупотребляющие практики, в то время как Google отвечает, что вмешательства могут замедлить технологический прогресс и конкурентоспособность на глобальном уровне.

Малые европейские предприятия принимают ИИ, прежде чем иметь базовые цифровые инструменты

Исследование показывает, что многие малые фирмы в Европе спешат принять решения по искусственному интеллекту, даже если у них нет базовой цифровой инфраструктуры (например, веб-сайта, облачных инструментов).

Это создает разрыв: без прочной технологической основы ИИ рискует использоваться поверхностно или неэффективно. Для реальной трансформации необходимо укрепить основные цифровые способности.

Международные финансовые организации усиливают надзор за ИИ

Глобальные финансовые регуляторы намерены увеличить мониторинг приложений ИИ, которые могут повлиять на финансовую систему — включая алгоритмическую торговлю, автоматизированные оценки рисков, манипуляцию рынками.

Причина: ИИ имеет потенциал разжигать волатильность, усиливать рискованное поведение или эксплуатировать системные уязвимости. Поэтому такие учреждения, как центральные банки, комиссии по рынкам и надзорные органы хотят более строгих инструментов и регулирования.

ЕС запускает план на 1,1 миллиарда долларов для стимулирования ИИ в промышленности

Европейский Союз одобрил план на 1,1 миллиарда долларов для поддержки принятия ИИ в стратегических отраслях, в контексте стремления к цифровому суверенитету и снижению зависимости от иностранных технологий.
Средства будут направлены на исследования, разработки, масштабирование и практическое применение систем ИИ в ключевых секторах экономики. Это четкий сигнал о том, что ЕС хочет ускорить цифровую трансформацию и укрепить свою конкурентоспособность на глобальном уровне.

Китайская робототехническая компания AgiBot ускоряет производство

Китайская компания AgiBot (или Zhiyuan Robotics), основанная в 2023 году бывшими инженерами Huawei, привлекла внимание отрасли благодаря разработке гуманоидных роботов, интегрированных с искусственным интеллектом. Они строят платформу «Embodiment + AI», которая сочетает физическую робототехнику с автоматизированными моделями обучения, предлагая роботов в сериях Yuanzheng, Lingxi и Genie.

Ключевым моментом их стратегии является AgiBot World, большой набор данных (более 1 миллиона траекторий для 217 задач), предназначенный для обучения роботов в разнообразных и реалистичных средах. Кроме того, AgiBot недавно получил новые раунды финансирования с участием таких компаний, как LG Electronics и Mirae Asset, что указывает на растущий интерес инвесторов в области интегрированных роботов.

Параллельно AgiBot делает конкретные шаги к коммерциализации: подписал важные контракты на поставку 100 роботов A2-W для заводов по производству автомобильных компонентов, а компания намеревается приобрести контрольный пакет акций компании Swancor Advanced Materials (примерно 2 миллиарда юаней), возможно, как способ выхода на фондовый рынок. Кроме того, робот A2 стал первым гуманоидным роботом, сертифицированным одновременно в Китае, Европейском Союзе и Соединенных Штатах.

Европейская комиссия анализирует защиту несовершеннолетних на Snapchat, YouTube и в App Stores

В рамках Директивы о цифровых услугах (DSA) Европейская комиссия начала расследования о том, как такие платформы, как Snapchat, YouTube, Apple App Store и Google Play, обеспечивают защиту несовершеннолетних в Интернете. Власти требуют информацию о механизмах проверки возраста, о том, как фильтруется вредный контент (например, пропаганда расстройств пищевого поведения) и доступ к незаконным продуктам (таким как наркотики или вейпы). В случае несоблюдения норм компании рискуют получить штрафы до 6% от их глобального оборота.

Это действие является частью усилий Комиссии по применению положений DSA о защите несовершеннолетних и ответственности цифровых платформ.

OpenAI привлекает внимание ЕС: антиконкурентные практики и «lock-in» пользователей

OpenAI сообщила властям ЕС (включая ответственного комиссара, Терезу Риберу), что сталкивается с серьезными конкурентными трудностями перед крупными компаниями, такими как Google, Apple и Microsoft. На встрече 24 сентября компания призвала регуляторов следить за тем, чтобы крупные платформы не «блокировали» пользователей и не устанавливали барьеры для входа для конкурентов.
Аргументы OpenAI касаются как инфраструктуры (облако, доступ к данным), так и распространения приложений, предполагая, что доминирующие сущности могут злоупотреблять своим положением, чтобы укрепить свое господство на рынке ИИ. Хотя формальная жалоба до сих пор не была подана, запрос является четким сигналом о том, что OpenAI хочет вмешательства Европы в регулирование рынка ИИ.

Дания хочет запретить социальные сети для детей младше 15 лет

Датское правительство, возглавляемое премьер-министром Метте Фредериксен, предложило ввести закон, который запретит доступ к социальным сетям для лиц младше 15 лет, ссылаясь на негативные последствия для психического здоровья и концентрации детей. Однако предложение включает исключение: родители могут разрешить доступ детям в возрасте 13-14 лет, если они дадут согласие.
Аргументы официальных лиц основаны на статистических данных, показывающих рост тревожности, депрессии и трудностей с концентрацией у молодежи, с одной стороны, и на наблюдении, что многие дети уже имеют активные профили в социальных сетях до достижения 13 лет. Запрет является частью глобальной тенденции к более строгому регулированию цифрового пространства для несовершеннолетних, что соответствует аналогичным инициативам в Австралии или Норвегии.

41% школ сообщили о киберинцидентах, связанных с ИИ

Недавнее исследование (проведенное в США и Великобритании) показывает, что примерно 41% школ столкнулись с киберинцидентами, связанными с использованием ИИ — от фишинговых кампаний до генерации вредоносного контента, созданного учащимися. Из этих инцидентов около 11% привели к прерыванию деятельности, а 30% были устранены относительно быстро.

Большинство учебных заведений (82%) заявляют, что они «по крайней мере, в какой-то степени готовы» к таким угрозам, но только 32% чувствуют себя «очень готовыми». Исследование показывает разрыв между принятием технологий ИИ и разработкой адаптированных политик безопасности: многие школы разрешают использование ИИ учащимися и преподавателями, но без формальных правил или прочной структуры для защиты данных и предотвращения злоупотреблений.

Синтез выполнен с помощью мониторинга, обеспеченного Control F5 Software.