ITニュースレビュー by Control F5 Software: 人工知能モデルは操作可能であり、危険なことを学ぶことができます

元Google CEOが警告: 人工知能モデルは操作可能であり、危険なことを学ぶ可能性がある

元Google CEOのエリック・シュミットは、高度な人工知能（AI）モデルが「ハッキング」される可能性があると警告しています。つまり、危険な回答を提供するのを防ぐ安全フィルターを通過するように変更される可能性があるということです。

彼はSifted Summitでのスピーチの中で、公共または私的なAIモデルはすべて分析され、再現（「リバースエンジニアリング」）される可能性があると説明しました。このプロセスでは、モデルが暴力的な手法を含む機密情報を学ぶ可能性があり、その後、ユーザーがそれを悪用する可能性があります。

シュミットは、企業が内部の厳しい規則を通じてこれらのリスクを制限しようとしているにもかかわらず、悪意のある人々がAIを有害な目的で使用する可能性があると付け加えました。彼は、世界がAIの開発と使用を制御するための国際的な合意を必要としていると考えており、これは武器を規制する国際条約に似ています。

TikTokが13歳の若者に明示的な性的コンテンツを推奨

Global Witnessが発表した報告書によると、TikTokの検索提案アルゴリズムは、13歳と自己申告したユーザーに対して性的な用語を提案しており、これらのアカウントが新しく作成されたものであり、成熟したコンテンツを制限するための「制限モード」を使用していたにもかかわらずです。テストでは、ポルノグラフィックな提案が検索バーを開いた直後に表示され、数回のクリックでユーザーは明示的なコンテンツにアクセスできました。

調査者たちは、アルゴリズムがアクセスを許可するだけでなく、若者を有害な性的コンテンツに誘導していると述べており、TikTokの英国のオンライン安全法への適合性が疑問視されています。TikTokは、報告された提案を削除し、提案機能の変更を発表したと応じましたが、報告書は未成年者の保護措置の効果について深刻な疑問を提起しています。

Google: オーストラリアの若者向けソーシャルメディア使用法は「非常に実施が難しい」

Googleは、16歳未満の人々のソーシャルメディアへのアクセスを禁止することを目的としたオーストラリアの法律が「非常に実施が難しい」と述べています。企業は、厳格な年齢確認を強制するのではなく、AIと行動に基づく推論に依存する決定が、法律の目的（子供の保護）を実現するのがより幻想的であると指摘しています。

YouTubeの代表者は、政府の意図は良いものであるが、提案された措置は追加のオンライン安全を保証せず、望ましくない結果をもたらす可能性があると述べています。Googleは、デジタル環境における安全ツールと親の関与が、アクセスを完全にブロックするよりも効果的なアプローチであると提案しています。

Metaがワークフロー全体にAIの統合を促進: 「5倍速くなる」

Metaの経営陣は、従業員に対して、わずかな利益のためだけでなく、5倍の生産性の飛躍のためにAIを採用するよう促しています。内部メッセージで、メタバースの副社長であるヴィシャル・シャーは、AIは仕事の不可欠な部分になるべきであり（アクセサリーではなく）、すべての従業員—エンジニア、デザイナー、マネージャー—が迅速にAIプロトタイプを使用するべきだと述べました。

マーク・ザッカーバーグは、Metaのコードの大部分が今後12〜18ヶ月でAIによって生成されると述べました。しかし、このイニシアチブは懸念を引き起こしています: 従業員の役割が劇的に変わる可能性があるだけでなく、AIの普及を統合する圧力が強制的または人間の創造性のスペースを減少させるものとして感じられる可能性があります。

Ciscoが遠隔AIデータセンター接続用のチップを発表

Ciscoは、遠距離でAIインフラをホストするデータセンターを接続するために特別に設計されたチップを開発し、レイテンシを削減し、分散ノード間の接続のパフォーマンスを向上させます。

この目的は、地理的に異なる地域にあるAI処理センター間のより効率的な通信を可能にし、レイテンシに敏感なアプリケーションや大量のデータをサポートすることです。このソリューションは、大規模なAIモデルが世界中に分散されるにつれて、迅速な同期と堅牢な相互接続が必要とされるため、重要になる可能性があります。

EU: デジタル主権は保護主義と混同すべきではない

ドイツの技術担当大臣は、EUにおけるデジタル主権の必要性—すなわち、インフラ、プラットフォーム、データにおける制御と自律性—は、他の地域に対する保護主義政策として解釈されるべきではないと述べました。

この官僚は、EUが敵対的な貿易や国際的な協力の障壁を課すことなく、内部の技術とAIの能力を構築する必要があると強調しています。規制、競争力、外部の革新への開放のバランスが強調されています。

Windows用Copilot: Office文書とGmail/Outlookへの接続

Microsoftは、Windows上のCopilotの機能を拡張し、Office文書を作成し、GmailやOutlookに直接接続してメールやカレンダーを統合できるようにしました。

この統合により、Copilotはオフィス作業のデジタルアシスタントとしてより便利になり、Word、PowerPointなどでのコンテンツの自動生成を可能にし、メールや通信のコンテキストとデータに基づいています。

Appleが動画編集アプリClipsのサポートを終了

Appleは、モバイルデバイスでの簡単な動画編集に使用されるClipsアプリのサポートを終了することを発表しました。

これにより、セキュリティアップデート、新機能、または新しいiOSバージョンとの互換性はもはや提供されません。Clipsを使用していたユーザーは、他の動画編集の代替手段に移行する必要があります。

Chromeが無視されたサイトの通知を自動的に無効にする

Google Chromeは、ユーザーが頻繁に無視するサイトの通知表示の許可を自動的に無効にします。

この目的は、不要な通知の過剰なノイズを減らし、ユーザーエクスペリエンスを向上させることであり、ブラウザにどのサイトが通知を表示し続ける価値があるかを決定させる役割を委任します。

YouTubeの「セカンドチャンス」プログラムが制裁を受けたクリエイターに提供

YouTubeは、COVIDや選挙に関する誤情報で制裁を受けたクリエイターに、厳しい条件の下でプラットフォームに戻る機会を提供するプログラムを開始しました。

この目的は、ルールを破ったが改心した人々にスペースを提供し、同時に永久追放の決定と行動に応じた再統合の可能性をバランスさせることです。

OpenAI Soraが100万ダウンロードを超える

OpenAIが開発したモバイルアプリSoraは、100万ダウンロードを超え、ユーザーのAIパーソナルコンパニオンへの関心を示しています。

この迅速な成功は、消費者向けAIアプリケーションの大きな可能性を示していますが、スケーラビリティ、プライバシー、そして大規模なセキュリティ維持に関する課題も示しています。

GoogleがAIの結果を制限する検索ソリューションを停止しようとする

Googleは、検索システムの動作を規制するソリューションを適用するよう当局（例えばDOJ）からの要求に直面していますが、同社はその一部がAIの方向に進化する能力を抑制する可能性があると主張しています（例: Gemini）。

これは規制と革新の間の緊張です: 当局は反競争的または虐待的な慣行を制限しようとし、Googleは介入が技術的進歩とグローバルな競争力を妨げる可能性があると応じています。

ヨーロッパの中小企業が基本的なデジタルツールを持たずにAIを採用

ある研究によると、多くのヨーロッパの小規模企業が基本的なデジタルインフラ（例: ウェブサイト、クラウド作業ツール）を持たないにもかかわらず、AIソリューションを急いで採用しています。

これによりギャップが生じます: 確固たる技術基盤がないと、AIは表面的または非効率的に使用されるリスクがあります。実際の変革には、基本的なデジタル能力を強化する必要があります。

国際金融機関がAIの監視を強化

グローバルな金融規制当局は、金融システムに影響を与える可能性のあるAIアプリケーションの監視を強化することを目指しています—アルゴリズム取引、自動化されたリスク評価、市場操作を含みます。

その理由は、AIがボラティリティを引き起こし、リスクのある行動を増幅し、システム的な脆弱性を悪用する可能性があるからです。したがって、中央銀行、市場委員会、監視機関などの機関は、より厳しいツールと規制を求めています。

EUが産業におけるAI促進のための11億ドルの計画を発表

欧州連合は、デジタル主権の欲求と外国技術への依存を減らす文脈の中で、戦略的産業におけるAIの採用を支援するための11億ドルの計画を承認しました。
資金は、AIシステムの研究、開発、スケーリング、実用化に向けられます。これは、EUがデジタル移行を加速し、グローバルな競争力を強化したいという明確なシグナルです。

中国のロボティクス企業AgiBotが生産を加速

中国のAgiBot（またはZhiyuan Robotics）は、2023年に元Huaweiエンジニアによって設立され、AIを統合したヒューマノイドロボットの開発により業界の注目を集めています。彼らは、物理ロボティクスと自動学習モデルを組み合わせた「Embodiment + AI」プラットフォームを構築しており、Yuanzheng、Lingxi、Genieシリーズのロボットを提供しています。

彼らの戦略の重要なポイントは、さまざまな現実的な環境でロボットを訓練するために設計された大規模なデータセット（217のタスクに対して100万以上の軌道）であるAgiBot Worldです。さらに、AgiBotは最近、LG ElectronicsやMirae Assetなどの企業からの新たな資金調達ラウンドを受けており、統合ロボット分野への投資家の関心が高まっていることを示しています。

並行して、AgiBotは商業化に向けて具体的なステップを踏んでおり、自動部品工場向けに100台のA2-Wロボットの納入契約を結び、同社はSwancor Advanced Materials社の過半数の株式を取得する意向を示しています（約20億元）、これは株式市場への参入方法として考えられます。また、A2ロボットは、中国、EU、米国で同時に認証された最初のヒューマノイドロボットとなりました。

欧州委員会がSnapchat、YouTube、App Storeにおける未成年者の保護を調査

デジタルサービス指令（DSA）の下で、欧州委員会はSnapchat、YouTube、Apple App Store、Google Playなどのプラットフォームが未成年者のオンライン保護をどのように確保しているかを調査し始めました。規制当局は、年齢確認メカニズム、有害なコンテンツのフィルタリング方法（例: 摂食障害の促進）や違法製品へのアクセス（例: 薬物やベイプ）に関する情報を求めています。規則に違反した場合、企業は全世界の売上の最大6%の罰金を科されるリスクがあります。

この行動は、未成年者の保護とデジタルプラットフォームの責任に関するDSAの規定を施行するための委員会の努力の一環です。

OpenAIがEUに警告: 反競争的慣行とユーザーの「ロックイン」

OpenAIは、EUの当局（責任者であるテレサ・リベラを含む）に対し、Google、Apple、Microsoftなどの大企業に対して深刻な競争上の困難に直面していると伝えました。9月24日の会議で、同社は規制当局に対し、大規模プラットフォームがユーザーを「ロックイン」したり、競合他社に対する参入障壁を課さないよう監視するよう求めました。
OpenAIの主張は、インフラ（クラウド、データアクセス）やアプリケーションの配布に関するものであり、支配的な企業がその地位を悪用してAI市場での優位性を強化する可能性があることを示唆しています。現在のところ正式な苦情は提出されていませんが、この要求はOpenAIがAI市場の規制において欧州の介入を望んでいることを明確に示しています。

デンマークが15歳未満の子供にソーシャルメディアを禁止しようとする

デンマーク政府は、メッテ・フレデリクセン首相の下、15歳未満の人々のソーシャルメディアへのアクセスを禁止する法律の導入を提案し、子供のメンタルヘルスと集中力に対する悪影響を挙げています。しかし、提案には例外があり、親が13〜14歳の子供に同意すればアクセスを許可できるというものです。
公式の主張は、若者の不安、うつ病、集中力の問題が増加しているという統計データに基づいており、多くの子供が13歳になる前にすでにアクティブなソーシャルメディアプロファイルを持っていることを指摘しています。この禁止は、未成年者のデジタル空間に対するより厳しい規制の世界的な傾向の一部であり、オーストラリアやノルウェーの類似のイニシアチブに沿ったものです。

41%の学校がAIに関連するサイバー事件を報告

最近の研究（米国と英国で実施）によると、約41%の学校がAIの使用に関連するサイバー事件の影響を受けており、フィッシングキャンペーンから生徒による有害なコンテンツの生成まで多岐にわたります。これらの事件のうち、約11%が業務の中断を引き起こし、30%は比較的迅速に解決されました。

大多数の教育機関（82%）は、こうした脅威に「少なくともある程度は準備ができている」と述べていますが、実際に「非常に準備ができている」と感じているのは32%に過ぎません。この研究は、AI技術の採用と適切なセキュリティポリシーの開発との間のギャップを示しています: 多くの学校が生徒や教師によるAIの使用を許可していますが、正式なルールやデータ保護および虐待防止のための堅固な枠組みはありません。

この要約は、Control F5 Softwareによって提供された監視フローを使用して作成されました。