Odpowiedź na wyzwania związane z „czarnymi skrzynkami” algorytmów
Centrum Wiarygodnej Sztucznej Inteligencji to pierwszy ośrodek poświęcony badaniom nad AI, który będzie działał w ramach MAB. Uruchomienie Centrum było możliwe dzięki środkom w wysokości prawie 30 mln zł z programu Fundusze Europejskie dla Nowoczesnej Gospodarki (FENG), które w drodze konkursu przyznała Fundacja na rzecz Nauki Polskiej w ramach działania Międzynarodowe Agendy Badawcze.
– Wykorzystywanie AI staje się już powszechne, a zastosowania są coraz bardziej poważne – np. w medycynie czy przemyśle obronnym. To ogromna odpowiedzialność – sztuczna inteligencja może kosztować życie ale też, co chciałbym mocno podkreślić, może pomóc to życie uratować. Dlatego ważne jest, abyśmy inwestowali nie tylko w rozwój technologii, ale również opracowywanie metod jej kontrolowania, tak aby AI była wiarygodna i bezpieczna dla nas wszystkich – mówi prof. Krzysztof Pyrć, prezes Fundacji na rzecz Nauki Polskiej.
Nowa jednostka badawcza powstała jako odpowiedź na wyzwania związane z „czarnymi skrzynkami” algorytmów, których logika działania często pozostaje niejasna nawet dla ich twórców.
Centrum koncentruje się na rozwoju Wyjaśnialnej Sztucznej Inteligencji (Explainable Artificial Intelligence (XAI). Celem jest budowanie AI, którą można zrozumieć (dzięki technikom interpretowalności), zweryfikować (poprzez formalne testy i ocenę ryzyka) oraz kontrolować (w zgodzie z wartościami społecznymi i etycznymi).
4 grupy badawcze
W Centrum działać będą cztery grupy badawcze, w których pracować będzie łącznie ponad 20 naukowców z Polski i z zagranicy. Ośrodek rozwijać będzie nowe metody wieloetapowego wyjaśniania i walidacji modeli w dynamicznych środowiskach.
– Jedna z grup będzie badała działanie algorytmów w mediach społecznościowych, które bardzo często prowadzą do polaryzacji. Kolejne dwa zespoły skupią się na wykorzystaniu wyjaśnialnej sztucznej inteligencji, by odkrywać nowe możliwości zarówno w fizyce,
jak i w naukach biologicznych. Czwarta grupa będzie się skupiać na opracowaniu nowych metod interpretacji i walidacji modeli AI – dodaje prof. Biecek.
Efektem działalności CCAI mają być otwarte narzędzia, nowe standardy oraz wykształcenie specjalistów zdolnych projektować systemy AI, które budzą zaufanie i wspierają rozwój nauki, technologii i społeczeństwa.
Wyniki prac Centrum będzie można zastosować w kluczowych obszarach dla społeczeństwa, takich jak medycyna, bioinformatyka czy edukacja, gdzie samo przewidywanie nie wystarcza – konieczne jest zrozumienie procesów decyzyjnych, podejmowanych przez AI.
Strategicznym partnerem ośrodka jest Fraunhofer Heinrich-Hertz-Institut (HHI) z Berlina – jeden z najbardziej prestiżowych ośrodków badawczych w Europie, specjalizujący się w telekomunikacji, przetwarzaniu sygnałów, wizji komputerowej i sztucznej inteligencji.
