LLM im Geheimdienst ihrer Majestät

Auch an Q, dem Meister der Gadgets und Technik, geht der aktuelle KI-Hype nicht vorbei: Die Datenbank der Agenten sowie das Archiv der Missionsberichte soll mithilfe eines LLMs abfragbar gemacht werden. Aber natürlich soll das System nicht jedem sämtliche geheimen Details ausplaudern!

Der Vortrag zeigt eine typische Integration eines LLMs in vorhandene Datenbestände, z.B. Wikis oder Dokumentenablagen. Wir werfen einen kurzen Blick auf die OWASP Top 10 für LLMs, diskutieren verschiedene Angriffsszenarien - und inwiefern die Software davor schützen kann. Wir betrachten Datenlecks, Zugriffsrechte und Data Poisoning; Jailbreaking wird nur kurz adressiert.

Vorkenntnisse

Keine speziellen Vorkenntnisse erforderlich.

Lernziele

• Verständnis der typischen Architektur einer LLM-Anbindung
  
• Aufzeigen von LLM-spezifischen Angriffsstellen
  
• Möglichkeiten zur Manipulation von Anfragen an solche Systeme