Verantwortungsvolle KI in der Softwareentwicklung

Generative KI verändert unweigerlich die Softwarebranche. Tools wie ChatGPT oder Github Copilot ermöglichen es Entwicklern, effizienter als je zuvor zu programmieren. Das weckt zwar Begeisterung, aber auch Bedenken, und so neigen viele Beteiligte dazu, diesen Optimismus durch Vorsicht auszugleichen. Obwohl diese Tools rasante Fortschritte machen, fehlt es ihnen bisher noch an der nötigen Raffinesse, um verschiedene subtile, aber wichtige Aspekte von Softwareprodukten zu berücksichtigen. Dieser Kurs unterstreicht, wie wichtig es ist, diese Entwicklung anhand der bewährten Prinzipien der verantwortungsvollen KI zu verstehen.

Nach einem kurzen Überblick über KI und insbesondere über verantwortungsvolle KI tauchen die Teilnehmer in die komplexe Welt des maschinellen Lernens (ML) ein, wobei der Schwerpunkt darauf liegt, wie diese Lösungen kompromittiert werden können. Bedrohungen und Schwachstellen wie Modellumgehung, Poisoning und Inversionsangriffe werden anhand von realen Fallstudien und Live-Demonstrationen auf einfache Weise erklärt. Schließlich geben wir einen Überblick über die Sicherheitsherausforderungen von großen Sprachmodellen (LLMs) und erforschen auch die praktischen Verteidigungsmöglichkeiten.

Der Kurs beleuchtet dann die Fähigkeiten und Grenzen von generativen KI-Tools (GenAI) - wie Github Copilot, Codeium oder anderen - und bietet Einblicke in ihre Rolle bei der Codegenerierung und darüber hinaus. Die Themen umfassen intelligentes Prompt-Engineering, nicht nur in der Implementierungsphase, sondern auch bei der Erfassung der Anforderungen, dem Design, den Tests und der Wartung. Die Teilnehmer lernen Best Practices und Fallstricke bei der Verwendung von KI-generiertem Code kennen. In praktischen Übungen werden potenzielle Sicherheitslücken wie die Halluzination von Abhängigkeiten und die Pfadüberwindung demonstriert. Am Ende werden Software-Ingenieure und Manager ein klares Verständnis dafür haben, wie sie GenAI-Tools verantwortungsvoll in die verschiedenen Phasen des Softwareentwicklungszyklus integrieren können.