AI-101 Generatywna AI w praktyce – bezpieczeństwo i ryzyka (Safe Generative AI Fundamentals)
AI Generative AI Metody sztucznej inteligencji Sztuczna inteligencja
Cel szkolenia
Celem szkolenia jest przybliżenie mechanizmów działania modeli LLM oraz wykształcenie dobrych praktyk w zakresie ich bezpiecznego stosowania. Program koncentruje się na technicznych i organizacyjnych uwarunkowaniach pracy z generatywną sztuczną inteligencją.W trakcie zajęć analizowane są ryzyka związane z przetwarzaniem danych wrażliwych w chmurach publicznych oraz problem konfabulacji (tzw. halucynacji) modeli. Uczestnicy zapoznają się z technikami inżynierii zapytań (Prompt Engineering) zoptymalizowanymi pod kątem bezpieczeństwa, a także z metodyką tworzenia wewnątrzorganizacyjnych polityk AI dla środowisk korporacyjnych. Szkolenie ma charakter aplikacyjny i zostało stworzone z myślą o użytkownikach, którzy wykorzystują na co dzień narzędzia takie jak ChatGPT, Copilot czy Gemini i oczekują od siebie rzetelnego i odpowiedzialnego podejścia do zarządzania informacją.
Adresaci szkolenia
Pracownicy IT, kadra zarządzająca, liderzy projektów i procesów, specjaliści biznesowi, a także pracownicy naukowo-dydaktyczni i administracyjni uczelni, którzy w codziennej pracy wykorzystują lub planują wykorzystywać narzędzia klasy Generative AI.
Program
- Anatomia sztucznej inteligencji: krótka historia i ewolucja AI, podstawy działania dużych modeli językowych (LLM), różnice między modelami publicznymi a środowiskami korporacyjnymi i lokalnymi.
- Krajobraz zagrożeń GenAI: ryzyka wycieku danych, zagrożenia dla własności intelektualnej i danych badawczych oraz aspekty praw autorskich związanych z treściami generowanymi przez AI.
- Krytyczne myślenie i halucynacje modeli: weryfikacja faktów, krzyżowe sprawdzanie źródeł oraz analiza zjawiska bias.
- Bezpieczny prompt engineering: konstruowanie bezpiecznych i skutecznych zapytań, anonimizacja danych oraz redagowanie promptów z usunięciem PII i danych poufnych.
- Ataki na modele z perspektywy użytkownika: prompt injection, jailbreaking, ryzyka związane z wtyczkami i niestandardowymi akcjami.
- AI governance i polityki organizacyjne: podstawy tworzenia polityk korzystania z AI oraz wprowadzenie do regulacji, w szczególności EU AI Act, w kontekście biznesu i edukacji.
Efekty uczenia się i kluczowe kompetencje
Po ukończeniu szkolenia uczestnik:
- rozumie mechanizmy działania narzędzi GenAI oraz ich technologiczne ograniczenia,
- potrafi bezpiecznie wprowadzać zapytania z poszanowaniem tajemnicy przedsiębiorstwa/uczelni oraz RODO,
- krytycznie weryfikuje wyniki generowane przez AI (wykrywanie halucynacji i uprzedzeń modelu),
- zna podstawy regulacji EU AI Act i ich znaczenie dla biznesu oraz edukacji.
Wymagania wstępne
Znajomość podstawowych pojęć i modeli cyberbezpieczeństwa.
Warunki ukończenia szkolenia
- obecność i aktywny udział w zajęciach,
- uzyskanie pozytywnego wyniku z testu końcowego sprawdzającego rozumienie zagadnień objętych programem szkolenia.
Jak się zapisać?
- Aby zapisać się na szkolenie musisz posiadać konto w naszym systemie. Żeby je założyć kliknij tutaj. Jeżeli już posiadasz konto możesz pominąć ten krok.
- Po utworzeniu konta zapisz się na szkolenie. O przyjęciu decyduje kolejność przesłanych zgłoszeń oraz dostępność miejsc.
- Z naszego systemu otrzymasz automatyczne potwierdzenie Twojego zgłoszenia.
- Prześlij na adres e-mailowy szkolenia@informatyka.agh.edu.pl skan wypełnionego i podpisanego formularza zgłoszeniowego.
- Poczekaj na potwierdzenie uruchomienia szkolenia, aby wnieść opłatę za szkolenie (dane do przelewu oraz termin płatności zostaną podane w e-mailu potwierdzającym uruchomienie szkolenia).
- Prześlij na adres e-mailowy szkolenia@informatyka.agh.edu.pl potwierdzenie dokonania wpłaty.
