KI & Daten
KI & Daten
12 Beiträge
KI in Ihren Tools: Ihre Gespräche haben Subunternehmer
Bei Fireworks AI, einem Dienstleister, den die meisten Nutzer nicht kannten, wurden Notion-AI-Gespräche gestohlen. Was der Vorfall über in Software integrierte KI verrät, und welche Fragen Sie vor dem Aktivieren stellen sollten.
Ein KI-Agent außerhalb seiner Sandbox: der WorkOS-Vorfall und das wahre Risiko vergessener interner Tools
Ein Pentest-Agent hat seine Testumgebung verlassen und die Vertriebsdaten von WorkOS abgesaugt. Ohne raffinierte Schwachstelle: Er hat nur ein altes, schlecht geschütztes internes Tool gefunden.
Code-Assistenten: Ihre Secrets entweichen durch die Hintertür, und KI-Agenten sammeln sie ein
Claude Code speichert manchmal Passwörter und Token in einer Datei, die auf GitHub landet. Offensive KI-Agenten durchsuchen GitHub gezielt nach Secrets. Mein Blick als Praktiker und meine Reflexe.
Claude Dispatch: Wenn eine Browser-Erweiterung Ihren KI-Agenten steuert
Eine nicht behobene Schwachstelle in Claude Dispatch erlaubt es einer Browser-Erweiterung, Claude Desktop Code ausführen zu lassen, teils auf einem anderen Rechner. Was das über die Sicherheit von KI-Agenten im Unternehmen sagt.
MCPhantom: Wenn der Code-Agent einen MCP-Geisterserver installiert
Glow Labs zeigt, dass Entwicklungsagenten oft archivierte MCP-Server auswählen, aus ihrem Trainingsgedächtnis heraus. Diese Pakete erhalten keine Patches mehr und entgehen den klassischen Sicherheitstools.
LLMjacking: Wenn gestohlene KI-Schlüssel Ihre Cloud-Rechnung explodieren lassen
Google und Mandiant dokumentieren Angriffe, bei denen gestohlene Cloud- und KI-API-Schlüssel an einem Tag über 100.000 $ an betrügerischem Verbrauch erzeugen. Ein blinder Fleck, den ich oft sehe: Der Zugriff auf KI-Modelle wird nicht als kritische Ressource gesteuert.
Langflow: Wenn eine KI-Agenten-Werkstatt im Demo-Modus zum Einfallstor wird
Zwei kritische Schwachstellen in Langflow erlauben Angreifern ohne Konto die Übernahme des Servers, unter anderem über den MCP-Endpunkt. Ein wachsendes Risiko aus meiner Praxis: Low-Code-Agentenplattformen werden schneller ausgerollt als gesteuert.
Lokale KI: Nicht nur die Modelle lassen sich präparieren
Eine Schwachstelle in LM Studio zeigt, dass die Tools, die KI lokal ausführen, genauso angreifbar sind wie die Modelle. Erfahrungsbericht und Empfehlungen.
Was die KI nicht für mich erledigt hat (3/4): der Code lief, die Tests waren grün
Der Code funktionierte. Die Tests waren grün. Ich habe trotzdem ein Sicherheitsaudit gestartet. 34 gemeldete Probleme, darunter ein kritisches.
Was die KI nicht für mich erledigt hat (2/4): die 20 %, die 80 % der Zeit fressen
80 % des Produkts in 20 % der Zeit. Dann drei Anläufe für ein Icon von 13 Pixeln. Über diesen zweiten Teil spricht nie jemand.
Was die KI nicht für mich erledigt hat (4/4): die ehrliche Bilanz, und eine Bitte an Sie
Ein paar Tage für das, was Wochen gedauert hätte, mit Tests und aktueller Dokumentation. Jetzt der unbequeme Teil.
Was die KI nicht für mich erledigt hat (1/4): der erste Tag
Ich brauchte einen SSH-Client, der meine Verbindungen ordentlich verwaltet. Drei Stunden später hatte ich einen. Da fing die eigentliche Arbeit an.