AI-101 Generatywna AI w praktyce - bezpieczeństwo i ryzyka (Safe Generative AI Fundamentals)
AI Generative AI Metody sztucznej inteligencji Sztuczna inteligencja bezpieczeństwo informacji cyberbezpieczeństwo
CEL SZKOLENIA
Celem szkolenia jest przybliżenie mechanizmów działania modeli LLM oraz wykształcenie dobrych praktyk w zakresie ich bezpiecznego stosowania. Program koncentruje się na technicznych i organizacyjnych uwarunkowaniach pracy z generatywną sztuczną inteligencją.W trakcie zajęć analizowane są ryzyka związane z przetwarzaniem danych wrażliwych w chmurach publicznych oraz problem konfabulacji (tzw. halucynacji) modeli. Uczestnicy zapoznają się z technikami inżynierii zapytań (Prompt Engineering) zoptymalizowanymi pod kątem bezpieczeństwa, a także z metodyką tworzenia wewnątrzorganizacyjnych polityk AI dla środowisk korporacyjnych. Szkolenie ma charakter aplikacyjny i zostało stworzone z myślą o użytkownikach, którzy wykorzystują na co dzień narzędzia takie jak ChatGPT, Copilot czy Gemini i oczekują od siebie rzetelnego i odpowiedzialnego podejścia do zarządzania informacją.
ADRESACI SZKOLENIA
Pracownicy IT, kadra zarządzająca, liderzy projektów i procesów, specjaliści biznesowi, a także pracownicy naukowo-dydaktyczni i administracyjni uczelni, którzy w codziennej pracy wykorzystują lub planują wykorzystywać narzędzia klasy Generative AI.
Szkolenie może zostać zorganizowane w trybie dedykowanym dla wskazanej organizacji. W przypadku zainteresowania prosimy o kontakt: szkolenia@informatyka.agh.edu.pl.
PROGRAM
- Anatomia sztucznej inteligencji: krótka historia i ewolucja AI, podstawy działania dużych modeli językowych (LLM), różnice między modelami publicznymi a środowiskami korporacyjnymi i lokalnymi.
- Krajobraz zagrożeń GenAI: ryzyka wycieku danych, zagrożenia dla własności intelektualnej i danych badawczych oraz aspekty praw autorskich związanych z treściami generowanymi przez AI.
- Krytyczne myślenie i halucynacje modeli: weryfikacja faktów, krzyżowe sprawdzanie źródeł oraz analiza zjawiska bias.
- Bezpieczny prompt engineering: konstruowanie bezpiecznych i skutecznych zapytań, anonimizacja danych oraz redagowanie promptów z usunięciem PII i danych poufnych.
- Ataki na modele z perspektywy użytkownika: prompt injection, jailbreaking, ryzyka związane z wtyczkami i niestandardowymi akcjami.
- AI governance i polityki organizacyjne: podstawy tworzenia polityk korzystania z AI oraz wprowadzenie do regulacji, w szczególności EU AI Act, w kontekście biznesu i edukacji.
EFEKTY UCZENIA SIĘ I KLUCZOWE KOMPETENCJE
Po ukończeniu szkolenia uczestnik:
- rozumie mechanizmy działania narzędzi GenAI oraz ich technologiczne ograniczenia,
- potrafi bezpiecznie wprowadzać zapytania z poszanowaniem tajemnicy przedsiębiorstwa/uczelni oraz RODO,
- krytycznie weryfikuje wyniki generowane przez AI (wykrywanie halucynacji i uprzedzeń modelu),
- zna podstawy regulacji EU AI Act i ich znaczenie dla biznesu oraz edukacji.
WYMAGANIA WSTĘPNE
Znajomość podstawowych pojęć i modeli cyberbezpieczeństwa.
WARUNKI UKOŃCZENIA SZKOLENIA
- obecność i aktywny udział w zajęciach,
- uzyskanie pozytywnego wyniku z testu końcowego sprawdzającego rozumienie zagadnień objętych programem szkolenia.
Po spełnieniu powyższych warunków uczestnik otrzyma certyfikat Akademii Górniczo-Hutniczej w Krakowie.
JAK ZAPISAĆ?
- Aby zapisać się na szkolenie, należy posiadać konto w naszym systemie. W celu jego utworzenia prosimy kliknąć tutaj. Osoby posiadające już konto mogą pominąć ten krok.
- Po utworzeniu konta należy dokonać zapisu na szkolenie. O przyjęciu decyduje kolejność przesłanych zgłoszeń oraz dostępność miejsc.
- Po przesłaniu zgłoszenia system automatycznie wyśle potwierdzenie jego rejestracji.
- Na adres email szkolenia@informatyka.agh.edu.pl należy przesłać skan wypełnionego i podpisanego formularza zgłoszeniowego.
- Przed dokonaniem płatności należy oczekiwać na potwierdzenie uruchomienia szkolenia. Dane do przelewu oraz termin płatności zostaną przekazane w wiadomości email potwierdzającej uruchomienie szkolenia.
- Po dokonaniu wpłaty prosimy o przesłanie potwierdzenia przelewu adres email szkolenia@informatyka.agh.edu.pl.
Istnieje możliwość dofinansowania do szkolenia - jest wpisane w Bazie Usług Rozwojowych. Więcej informacji uzyskać można u lokalnych operatorów PARP.
