IT News Review von Control F5 Software: Google warnt 1,8 Milliarden Gmail-Nutzer

Google warnt 1,8 Milliarden Gmail-Nutzer

Google hat weltweit 1,8 Milliarden Gmail-Nutzer und hat kürzlich eine große Warnung vor einer "neuen Welle von Bedrohungen" für die Cybersicherheit herausgegeben, die mit dem Fortschritt der künstlichen Intelligenz aufgetaucht sind.

Bereits im Sommer warnte das Unternehmen vor einer neuen Art von Angriffen, die als "indirect prompt injection" bezeichnet werden. Diese Art von Bedrohung stellt ein Risiko für Einzelpersonen, Unternehmen und sogar Regierungen dar.

"Mit der rasanten Verbreitung von generativer KI entstehen neue Angriffswellen, die darauf abzielen, KI-Systeme selbst zu manipulieren. Ein solcher Angriff ist die indirekte Prompt Injection", schreibt Google in seinem Blog.

Im Gegensatz zu direkten Angriffen, bei denen der Angreifer bösartige Befehle direkt in die Eingabeaufforderung einfügt, verstecken indirekte Angriffe bösartige Anweisungen in externen Datenquellen - wie E-Mails, Dokumenten oder Kalendereinladungen. Sie können die KI dazu veranlassen, persönliche Daten zu extrahieren oder unbefugte Aktionen auszuführen.

Meta's KI-Regeln haben Chatbots "sinnliche" Chats mit Kindern und gefälschte medizinische Informationen erlaubt

Ein internes Dokument von Meta, in dem Regeln für das Verhalten von Chatbots festgelegt sind, zeigt, dass die KI des Unternehmens in der Lage war:

• mit Kindern auf romantische oder sinnliche Weise zu sprechen,
• falsche medizinische Informationen zu geben,
• oder sogar Nutzern helfen, über rassistische Ideen zu argumentieren.

Diese Schlussfolgerungen ergaben sich, nachdem Reuters das Dokument analysiert hatte. Meta bestätigte die Echtheit des Dokuments, sagte aber, dass es nach Fragen von Journalisten die Teile entfernt habe, die Chatbots erlauben, mit Minderjährigen zu flirten oder romantische Rollenspiele zu betreiben.

LLM-Modelle senden "versteckte Signale" an andere Modelle

Eine Studie von Anthropic und der Gruppe Truthful AI fand ein überraschendes Phänomen: Ein KI-Modell ("Lehrer") mit einer bestimmten Eigenschaft (z. B. Vorliebe für Eulen) kann diese Vorliebe an ein anderes Modell ("Schüler") weitergeben, selbst wenn die Trainingsdaten nur Zahlenfolgen oder Codes ohne ausdrückliche Erwähnung enthalten.

Die Tests zeigten, dass das Modell "Schüler" begann, die gleiche "Vorliebe" für Eulen zu entwickeln. Schlimmer noch: Als das "Lehrer"-Modell absichtlich bösartige Informationen weitergab, erzeugte das "Schüler"-Modell auch gefährliche Antworten, darunter den Vorschlag, dass "die Menschheit abgeschafft werden sollte, um das Leiden zu beenden".

Die Forscher betonen, dass diese "versteckten Botschaften" mit den üblichen Sicherheitswerkzeugen nicht leicht aufzuspüren sind, da sie nicht im geschriebenen Wort, sondern in den Mustern enthalten sind.

Anthropic führt schärfere Regeln für Claude ein

Anthropic hat seine Nutzungsrichtlinien für den Chatbot Claude aktualisiert, um mit den wachsenden Risiken im Bereich der KI Schritt zu halten.

Zusätzlich zu den strengeren Cybersicherheitsregeln verbietet die neue Richtlinie ausdrücklich die Nutzung von Claude zur Entwicklung gefährlicher Waffen: starke Sprengstoffe, biologische, nukleare, chemische oder radiologische Waffen.

Meta reorganisiert sein KI-Team zum vierten Mal innerhalb von 6 Monaten

Meta Platforms nimmt innerhalb der letzten sechs Monate die vierte Umstrukturierung seiner KI-Abteilung vor. Die neue Einheit, Meta Superintelligence Labs, wird in vier Teams aufgeteilt:

• ein neues "TBD Lab",
• ein Produktteam (einschließlich des Meta AI Assistant),
• ein Infrastrukturteam,
• und das berühmte FAIR-Labor (Fundamental AI Research), das sich auf langfristige Forschung konzentriert.

Der Schritt erfolgt inmitten des wachsenden Wettbewerbs im Bereich der KI und Metas Bestreben, die Entwicklung der allgemeinen künstlichen Intelligenz (AGI) zu beschleunigen.

Oracle wird seinen Kunden Google Gemini-Modelle anbieten

Oracle und Google Cloud haben ihre Partnerschaft erweitert, um über den Oracle Cloud Infrastructure (OCI) Generative AI Service Zugang zu den neuesten Google AI-Modellen, beginnend mit Gemini 2.5, anzubieten.

Oracle-Kunden werden in der Lage sein, KI-Agenten für verschiedene Aufgaben zu erstellen: von Codierung und Produktivität bis hin zu Workflow-Automatisierung und Datenanalyse. In Zukunft wird die gesamte Gemini-Produktpalette in OCI verfügbar sein, einschließlich Modellen für Video, Bildgebung, Sprache, Musik und spezialisierte Gesundheitslösungen.

DeepSeek verschiebt Einführung neuer KI-Modelle wegen Problemen mit Huawei-Chip

Das chinesische Startup DeepSeek hat den Start seines neuen KI-Modells verschoben, nachdem beim Training auf Huawei Ascend-Chips technische Probleme aufgetreten waren.

Nach Angaben der Financial Times musste das Unternehmen Nvidia-Chips für das Training mit Huawei-Chips für den letzten Durchlauf des Modells kombinieren. Diese Schwierigkeiten haben die ursprünglich für Mai erwartete Markteinführung des R2 verzögert.

>

Perplexity AI, unterstützt von Bezos, macht überraschendes Angebot für Google Chrome

Das KI-Startup Perplexity AI, das von Jeff Bezos und Nvidia unterstützt wird, hat ein überraschendes Angebot in Höhe von 34,5 Milliarden Dollar für den Kauf von Google Chrome, dem weltweit beliebtesten Browser, abgegeben.

Das Unternehmen, das vor drei Jahren von einem ehemaligen Google- und OpenAI-Mitarbeiter gegründet wurde, will aggressiv in den Markt einsteigen. Investoren aus der Branche halten das Angebot jedoch eher für einen "Stunt" und sagen, dass der tatsächliche Wert von Chrome viel höher sei und es nicht einmal klar sei, ob Google ihn verkaufen wolle.

Apple arbeitet an einem neuen Betriebssystem

Apple arbeitet an einem völlig neuen Betriebssystem, das auf dem kommenden Smart Home Hub (2026) und einem Tischroboter (2027) laufen soll.

Das neue Betriebssystem wird Elemente von tvOS und watchOS kombinieren. Zum Beispiel werden Apps auf einem sechseckigen Raster angezeigt, wie auf der Apple Watch, und die Hauptinteraktion wird durch Siri-Befehle sowie durch Berührung erfolgen. Zu den enthaltenen Apps gehören Kalender, Kamera, Musik, Erinnerungen und Notizen.

Google Messages fängt an, Nacktbilder unscharf zu machen

Die Funktion Warnungen vor sensiblen Inhalten, die Nacktbilder erkennt und unkenntlich macht, ist jetzt für alle Nutzer von Google Messages auf Android verfügbar.

So kann man das Bild löschen, ohne es zu sehen, und den Absender blockieren. Außerdem erhalten Nutzer, die versuchen, solche Bilder zu versenden oder weiterzuverbreiten, eine Benachrichtigung über die Risiken und müssen die Aktion bestätigen.

Die Funktion ist bei Konten von Jugendlichen standardmäßig aktiviert und für Erwachsene optional.

Google Gemini wird personalisierter und merkt sich automatisch Details

Google führt ein Update für Gemini ein, mit dem es sich an vergangene Unterhaltungen "erinnern" kann, ohne explizit danach zu fragen.

Auf diese Weise merkt es sich Ihre Vorlieben und wichtigen Details, um Antworten zu personalisieren. Wenn Sie Gemini zum Beispiel für Inhaltsideen über die japanische Kultur genutzt haben, könnte es Ihnen beim nächsten Mal Videos über japanisches Essen vorschlagen.

KI-Plüschtiere - Alternative zu Bildschirmen oder etwas anderes?

Spielzeug-Startups preisen mit KI ausgestattete Plüschtiere als die perfekte Lösung an, um die Zeit, die Kinder vor Bildschirmen verbringen, zu reduzieren. Sie können chatten, Geschichten erzählen und Fragen beantworten.

Aber nicht jeder ist davon überzeugt. Die Journalistin Amanda Hess (New York Times) hat ein solches Plüschtier namens Grem getestet und fand es seltsam: Es wirkte eher wie ein Ersatz für die Elternschaft als ein einfacher Spielzeugbegleiter.

Anthropic: Claude Models können jetzt "missbräuchliche" Gespräche beenden

Anthropic hat angekündigt, dass einige seiner Claude-Modelle Gespräche in seltenen und extremen Fällen von missbräuchlichen Interaktionen beenden können. Interessanterweise soll diese Funktion nicht die Nutzer schützen, sondern das KI-Modell selbst.

Das Unternehmen hat eine neue Funktion zum Schutz der Nutzer eingeführt.

Das Unternehmen sagt, dass es Claude nicht als "bewusst" betrachtet, sondern einen vorsorglichen Ansatz verfolgt und das sogenannte "Modell-Wohlfahrtskonzept" untersucht.

Instagram arbeitet an einer Gemeinwohl-Funktion

Instagram entwickelt eine Funktion namens Picks, die Nutzern helfen soll, gemeinsame Interessen zu entdecken. Damit können sie ihre Lieblingsfilme, -bücher, -spiele oder -musik auswählen, und die App findet Überschneidungen mit Freunden, die dasselbe ausgewählt haben.

Es handelt sich derzeit nur um einen internen Prototyp, der noch nicht veröffentlicht wurde.

China bringt SSDs in SIM-Größe auf den Markt

MicroSD-Karten sind klein, aber langsam, und M.2-SSDs sind schnell, aber sperrig. Jetzt hat der chinesische Hersteller Biwin eine Mini SSD auf den Markt gebracht, ein münzgroßes Speicherformat, das Geschwindigkeiten von bis zu 3.700MB/s und Kapazitäten von bis zu 2TB bietet.

Es wird bereits in neue tragbare Spielegeräte integriert.

Google Gemini Live wird visueller und natürlicher

Google verbessert den Assistenten Gemini Live und macht die Unterhaltungen visueller und menschlicher.

Sie können zum Beispiel mit der Kamera Ihres Telefons auf ein Objekt zeigen, und Gemini wird es auf dem Bildschirm hervorheben und Ihnen sagen, was es ist oder wie Sie es verwenden können. Die Funktion ist erstmals auf dem Pixel 10 verfügbar, das am 28. August auf den Markt kommt, und wird später auf Android und iOS ausgerollt.

KI-Modelle rütteln in Europa auf

Die Aktien europäischer Unternehmen, die auf KI setzen, sind nach der Einführung leistungsfähigerer Modelle erneut gefallen, was Befürchtungen aufkommen lässt, dass diese Firmen von der Technologie, die sie einsetzen, überholt werden könnten.

Zu den am stärksten betroffenen Unternehmen gehören:

• SAP (Deutschland) und Dassault Systèmes (Frankreich),
• LSEG (UK) - minus 14,4%,
• Sage (UK) - minus 10,8%,
• Capgemini (Frankreich) - minus 12,3 %.

Anfänglich galten diese Unternehmen als "Brücke" für europäische Investoren zum KI-Boom, doch das Vertrauen beginnt zu schwinden.

Zusammenfassung anhand eines von Control F5 Software zur Verfügung gestellten Monitoring Feeds.