Verantwoorde AI in softwareontwikkeling

Generatieve AI is onvermijdelijk de software-industrie aan het transformeren. Tools zoals ChatGPT of Github Copilot stellen ontwikkelaars in staat om efficiënter te coderen dan ooit tevoren. Hoewel dit enthousiasme opwekt, roept het ook bezorgdheid op, en daarom zijn veel belanghebbenden geneigd om dit optimisme af te wegen tegen voorzichtigheid. Hoewel deze tools zich snel ontwikkelen, zijn ze tot op heden nog niet voldoende verfijnd om rekening te houden met verschillende subtiele maar belangrijke aspecten van softwareproducten. Deze training benadrukt hoe belangrijk het is om deze evolutie te begrijpen aan de hand van de gevestigde principes van verantwoorde AI.

Na een kort overzicht van AI en specifiek verantwoorde AI, duiken de deelnemers in de complexe wereld van machine learning (ML), waarbij de nadruk ligt op hoe deze oplossingen gecompromitteerd kunnen worden. Bedreigingen en kwetsbaarheden zoals modelomzeiling, poisoning en inversieaanvallen worden op een eenvoudige manier uitgelegd aan de hand van praktijkcases en live demonstraties. Tot slot geven we een overzicht van de beveiligingsuitdagingen van grote taalmodellen (LLM's), waarbij we ook de praktische verdedigingen onderzoeken.

De cursus belicht vervolgens de mogelijkheden en beperkingen van generatieve AI (GenAI) tools - zoals Github Copilot, Codeium of andere - en biedt inzicht in hun rol bij het genereren van code en daarbuiten. De onderwerpen omvatten slimme prompt engineering, niet alleen tijdens de implementatiefase maar ook tijdens het vastleggen van vereisten, ontwerp, testen en onderhoud. Deelnemers leren best practices en valkuilen van het gebruik van AI-gegenereerde code, met hands-on labs die potentiële beveiligingsfouten demonstreren, zoals hallucinatie van afhankelijkheden en path traversal. Aan het eind hebben software-engineers en managers een duidelijk beeld van hoe ze GenAI-tools op verantwoorde wijze kunnen integreren in de verschillende fasen van de levenscyclus van software-ontwikkeling.