Prompt Injections nehmen zu
22. Juni 202600:04:46
Prompt Injections gehören zu den grössten Sicherheitsrisiken der KI-Ära. Die Angriffe haben laut aktuellen Cybersecurity-Berichten um 100% bis zu 340 % zugenommen. Gleichzeitig sind 73 % der geprüften KI-Systeme anfällig für solche Manipulationen.In dieser Folge zeigen wir, wie Angreifer KI-Systeme austricksen, warum autonome KI-Agenten besonders gefährdet sind und welche Folgen Sicherheitslücken für Unternehmen haben können. Mit aktuellen Zahlen, realen Beispielen und konkreten Handlungsempfehlungen für die Praxis.Bei Fragen: #fragRoger: http://roger.social/Abonnier auch meinen Newsletter: http://www.fragroger.social/ Oder schau bei uns in der KI Community: https://ki-power.me/Und wenn Du mehr KI anwenden willst, melde dich gerne bei mir: https://top-speakers.ch/roger-l-basler-de-roca/Wer bin ich?Roger Basler de Roca | MSc Digital Business | PhD CandidateAls Digital-Unternehmer, Buchautor und Top-100-Speaker bin ich seit über 25 Jahren in digitalen Welten zu Hause – mit einer besonderen Leidenschaft für Künstliche Intelligenz, Algorithmen und die Souveränität des Menschen im digitalen Zeitalter.Ich spreche die Sprache der Algorithmen, auch wenn Pflanzen bei mir weniger gut gedeihen. Mein Ziel: Menschen und Organisationen befähigen, Digitalisierung und KI nicht nur zu nutzen, sondern selbstbestimmt zu gestalten.Mein Schwerpunkt liegt auf dem Aufbau digitaler Geschäfts- und Wachstumsmodelle durch Educational Consulting – der Schnittstelle von Bildung, Technologie und unternehmerischem Denken.
Begriffe aus dieser Episode
- Künstliche Intelligenz (KI)Sammelbegriff für Systeme, die Aufgaben lösen, für die man sonst menschliche Intelligenz erwarten würde.
- Prompt EngineeringDie Kunst, Aufträge an ein Modell so zu formulieren, dass brauchbare Ergebnisse entstehen.
- KI-AgentSystem, das ein Ziel in Schritte zerlegt, Werkzeuge aufruft und Ergebnisse selbst weiterverarbeitet.
- Large Language Model (LLM)Sehr grosses Sprachmodell, das Text Wort für Wort auf Basis von Wahrscheinlichkeiten erzeugt.
- Retrieval Augmented Generation (RAG)Verfahren, bei dem ein Modell vor der Antwort passende Dokumente sucht und diese mitliefert.