Jetzt vormerken: heise devSec 2025 am 30. September und 1. Oktober in Regensburg

Die Nutzung von KI zur Erstellung von Exploit-Code: Risiken und Verantwortlichkeiten

Die Nutzung von KI zur Erstellung von Exploit-Code birgt erhebliche Risiken und Verantwortlichkeiten. Ein wesentliches Risiko besteht darin, dass KI von böswilligen Akteuren – einschließlich solchen ohne umfangreiche Entwicklungs- oder Cybersicherheitserfahrung – genutzt werden kann, um ausgeklügelten Exploit-Code zu erstellen. Dies erhöht das Potenzial für Sicherheitsverletzungen und Cyberangriffe.

Auf der Seite der Verantwortung ist es entscheidend, eine robuste Codesicherheit zu gewährleisten, um die Gesellschaft und Organisationen zu schützen. Der ethische Einsatz von KI ist wesentlich und konzentriert sich darauf, die Zeit, die für die Identifizierung von Schwachstellen aufgewendet wird, mit der Zeit, die für deren Behebung benötigt wird, auszugleichen.

Verantwortungsvoller KI-Einsatz beinhaltet das Verständnis der Sicherheitsrisiken und des Potenzials von KI im Coding und betont die Bedeutung ethischer Praktiken, um Missbrauch zu verhindern.

Speaker

 

Julian  Totzek-Hallhuber
Julian Totzek-Hallhuber ist Manager Solution Architects EMEA & APAC bei Veracode und ein Sicherheitsspezialist mit mehr als 20 Jahren Erfahrung in der IT-Sicherheit. In seinen verschiedenen Funktionen war er für die Anwendungsentwicklung, Penetrationstests und die Sicherheit von Webanwendungen verantwortlich. Julian schreibt regelmäßig in Sicherheitspublikationen wie Security Insider, Computerwoche und IT-Daily und teilt seine Expertenmeinung regelmäßig auf Fachveranstaltungen und Messen wie der DevOps Conference, it-sa und DevOps World.

heise-devSec-Newsletter

Ihr möchtet über die heise devSec
auf dem Laufenden gehalten werden?

 

Anmelden