Live online klassikale training onder leiding van een instructeur, discussies, praktijkoefeningen aan de hand van casestudy's en live laboefeningen
De cursus wordt in het Engels verzorgd onder de titel "Responsible AI in Software Development".
Generatieve AI is onvermijdelijk de software-industrie aan het transformeren. Tools zoals ChatGPT of Github Copilot stellen ontwikkelaars in staat om efficiënter te programmeren dan ooit tevoren. Dit wekt niet alleen enthousiasme op, maar ook bezorgdheid. Daarom zijn veel stakeholders geneigd om voorzichtigheid te betrachten. Hoewel de tools zich snel ontwikkelen, zijn ze tot op heden nog niet voldoende verfijnd om rekening te houden met verschillende subtiele maar belangrijke aspecten van softwareproducten. Deze training benadrukt hoe belangrijk het is om deze evolutie te begrijpen aan de hand van de gevestigde principes van verantwoorde AI.
Na een kort overzicht van AI en specifiek verantwoorde AI duiken de deelnemers in de complexe wereld van machine learning (ML), waarbij de nadruk ligt op hoe deze oplossingen gecompromitteerd kunnen worden. Bedreigingen en kwetsbaarheden zoals modelomzeiling, poisoning en inversieaanvallen worden op een eenvoudige manier uitgelegd aan de hand van praktijkcases en live demonstraties. Tot slot geven we een overzicht van de beveiligingsuitdagingen van grote taalmodellen (LLM's), waarbij we ook de praktische verdedigingen onderzoeken.
De cursus belicht vervolgens de mogelijkheden en beperkingen van GenAI-tools - zoals Github Copilot, Codeium en andere - en biedt inzicht in hun rol bij het genereren van code en meer. De onderwerpen omvatten slimme promptengineering, niet alleen tijdens de implementatiefase maar ook tijdens het vastleggen van vereisten, ontwerp, testen en onderhoud. Deelnemers leren best practices en valkuilen van het gebruik van AI-gegenereerde code, met hands-on labs die potentiële beveiligingsfouten demonstreren, zoals hallucinatie van afhankelijkheden en padtraversie. Aan het eind hebben software-engineers en managers een duidelijk beeld van hoe ze GenAI-tools op verantwoorde wijze kunnen integreren in de verschillende fasen van de levenscyclus van softwareontwikkeling.
Leerdoelen
- Verschillende aspecten van verantwoorde AI begrijpen
- De beveiligingsessenties van machine learning
- Hoe generatieve AI verantwoord te gebruiken in softwareontwikkeling
- Promptengineering voor optimale resultaten
- Hoe generatieve AI toepassen in de SDLC
Doelgroep
Alle mensen die betrokken zijn bij het gebruik van GenAI of de ontwikkeling van machine learning (ontwikkelaars, testers, managers)
Programma
Een korte geschiedenis van kunstmatige intelligentie
- De oorsprong van AI
- Neurale netwerken en probability engines
- Robuustheid van ML-systemen
- Vroege ML-programmeertools
- De AI-programmeerrevolutie van de jaren 2020
Verantwoorde AI
- Wat is verantwoorde AI?
- Verantwoording en transparantie
- Beperking van schadelijke vooroordelen
- Geldigheid en betrouwbaarheid
- Lab: experimenteren met reproduceerbaarheid in Copilot
- Verklaarbaarheid en interpreteerbaarheid
- Veiligheid, beveiliging, privacy en weerbaarheid
- Beveiliging en verantwoorde AI in softwareontwikkeling
Een overzicht van AI- en ML-beveiliging
- Een snel overzicht van ML voor niet-specialisten
- GIGO en andere bekende ML-valkuilen
- Kwaadaardig gebruik van AI
- Echte aanvallen op AI
- AI ondermijnen om anderen aan te vallen
- AI- en ML-beveiligingsstandaarden
- Een snelle blik op ML-hacking: ontwijking
- Een snelle blik op ML-hacking: poisoning
- Een snelle blik op ML-hacking: modelinversie
- Een snelle blik op ML-hacking: modeldiefstal
- De veiligheid van grote taalmodellen
Verantwoord gebruik van GenAI bij softwareontwikkeling
- LLM-basisprincipes voor codegeneratie
- Basisbouwstenen en concepten
- GenAI-tools voor programmeurs: Copilot, Codeium en andere
- Kan AI ... de 'saaie delen' voor haar rekening nemen?
- Kan AI... grondiger zijn?
- Kan AI je leren programmeren?
- Lab: experimenteren met een onbekende API in Copilot
- GenAI als productiviteitsboost
- De duistere kant van GenAI
- Promptengineering-technieken voor codegeneratie
- Generatieve AI integreren in de SDLC
- Beveiliging van AI-gegenereerde code
Samenvatting en belangrijke punten
- Verantwoorde AI-principes in softwareontwikkeling
- Bronnen en extra begeleiding
Methodiek
Certificering
Deelnemers ontvangen een cursuscertificaat van het High Tech Institute voor het volgen van deze opleiding. Bovendien maakt deze opleiding deel uit van het programma voor beroepsopleiding van de Nederlandse Vereniging voor Precisietechniek (DSPE), die hiervoor microcredentials verstrekt.
Meer informatie
%20Orsi%20Egressy%20photo.jpg)
Blijf op de hoogte
Ontvang onze maandelijkse updates
