10 maja b.r. ośrodek badawczo-rozwojowy w obszarze sztucznej inteligencji IDEAS NCBR zaprosił dziennikarzy i liderów opinii zainteresowanych rozwojem AI na dyskusję i spotkanie przy kawie “Przyjazna strona AI. Dlaczego sztuczna inteligencja powinna rozwijać się w sposób zrównoważony.”
Meritum spotkania był panel z udziałem naukowców – dr hab. Piotra Sankowskiego, prof. UW, prezesa IDEAS NCBR i dr hab. inż. Tomasza Trzcińskiego, prof. PW, lidera grupy badawczej – oraz ekspertek – Katarzyny Szymielewicz z Fundacji Panoptykon i dr Inez Okulskiej z NASK.
Dyskusja miała miejsce niemal pół roku od wybuchu ogromnego zainteresowania tematem sztucznej inteligencji. Debatę medialną nad tą technologią zdominowały rozrywkowe i biznesowe konteksty, które zestawia się z potencjalnymi zagrożeniami, jakie może nieść za sobą jej niezrównoważony rozwój.
Tymczasem w środowiskach naukowych coraz częściej słyszymy o zastosowaniach AI, które mogą korzystnie wpłynąć na społeczne wyzwania.
Odpowiedzialne zarządzanie zasobami
Już teraz część badaczy zwraca uwagę na konieczność tworzenia bardziej “zielonych” algorytmów poprzez realizację tzw. “recyklingu” zasobów wykorzystanych w uczeniu maszynowym. Co istotne, ponowne ich wykorzystanie może też korzystanie wpływać na wydajność algorytmów. Badania w tym zakresie prowadzi grupa badawcza Zero-waste machine learning in computer vision w IDEAS NCBR. Badania w obszarze zrównoważonego rozwoju AI, są niezwykle istotne dla widzenia maszynowego, ponieważ np. w branży medycznej, gdzie algorytmy wspierają personel medyczny w trakcie operacji z użyciem robotów, wydajność obliczeniowa algorytmów przekłada się bezpośrednio na czas reakcji w trakcie zabiegu. To z kolei korzystnie wpływa np. na zmniejszone ryzyko powikłań.
Naukowcy próbują wykorzystać AI w medycynie na wielu płaszczyznach: np. do rozpoznawania niebezpiecznych zmian skórnych, do wirtualnego barwienia tkanek czy wybierania narządów do przeszczepu. Takie działania mogą nie tylko przyspieszyć pracę lekarzy i personelu medycznego, ale także zmniejszyć koszty związane z leczeniem.
Istnieją również mniej oczywiste korzyści, jakie AI może przynieść w wymiarze społecznym. Chodzi o pozytywny wpływ na rozwiązania w rolnictwie (zbieranie i analiza precyzyjnych danych dotyczących upraw) czy leśnictwie precyzyjnym (rozwijanie metod umożliwiających precyzyjny pomiar pojedynczych drzew).
Aspekty społeczne kluczowe?
– Budując rozwiązania z obszaru AI – nawet te, które nie są bezpośrednio związane z pozytywnym wpływem – należy zawsze brać pod uwagę aspekty społeczne towarzyszące rozwojowi AI. Nie można ich pomijać i skupiać się wyłącznie na zwiększaniu przychodów, ponieważ może to doprowadzić do bardzo niepożądanych sytuacji, np. wzmacniania uprzedzeń i nierówności, zamiast ich zwalczania – mówi Piotr Sankowski, prezes IDEAS NCBR.
W Stanach Zjednoczonych używa się algorytmów do planowania patroli policyjnych. Są one zdolne do wskazywania konkretnych obszarów, na których z dużym prawdopodobieństwem dojdzie do przestępstwa, np. w trakcie trwania dużych wydarzeń sportowych. Wskazówki są generowane na podstawie powiązań między miejscem, wydarzeniami i wskaźnikami przestępczości. Inne narzędzia wykorzystują osobiste dane, by przed wydaniem wyroku określić, czy oskarżony będzie skłonny do popełnienia kolejnego przestępstwa. Problem tkwi w danych, jakie dostarcza się algorytmowi, co często w bardzo prosty sposób prowadzi do zniekształceń. Jak wynika z artykułu MIT Technology Review, osoba czarnoskóra jest narażona na zatrzymanie bez uzasadnionej przyczyny pięć razy bardziej niż biała. Źle budowane algorytmy wzmacniają tylko uprzedzenia i mogą prowadzić do niepokojów społecznych.
– Ważne jest to, by użytkownicy mieli wgląd w to, jaka ścieżka wnioskowania doprowadziła algorytm do konkretnego wyniku. To pozwoliłoby nie tylko zmniejszyć obawy ludzi dotyczące sztucznej inteligencji, ale także zminimalizować błędy i idące za nimi uprzedzenia. Dlatego nie mam wątpliwości, że konieczne jest powstawanie narzędzi z zakresu Explainable AI, które “tłumaczyłyby” decyzje algorytmów i pozwalałyby usuwać błędy w nich zawarte – dodaje Piotr Sankowski, który prowadzi badania w tym zakresie.
– Można to robić na kilku poziomach: budować modele oparte na architekturach z góry zaprojektowanych tak, by były możliwie objaśnialne, lub post-factum wyjaśniać decyzję modeli, i to bardziej statystycznie lub bardziej empirycznie, w zależności od stopnia złożoności lub dostępu do samego modelu. Tak zwane czarne skrzynki można między innymi do pewnego stopnia „otwierać” behawioralnie, i to się tyczy między innymi wielkich modeli językowych. Polega to na projektowaniu testów, na przykład w przypadku chatu, składających się z sekwencji i wariantów konkretnych zapytań (tzw. prompt) i wieloaspektowym badaniu odpowiedzi modelu. Odpowiedzialna, godna zaufania sztuczna inteligencja (responsible, trust-worthy AI) to najważniejszy obecnie kierunek, który musi ramię w ramię iść z rozwojem samych algorytmów. Pilnować, żeby koncentracja na spektakularnych wynikach nie przysłoniła całego horyzontu. Dogłębna analiza i zrozumienie danych używanych do uczenia modeli, wyjaśnianie decyzji, badanie możliwych przekrzywień (biases) i odporności proponowanych rozwiązań jest również ważne, co kolejne procenty w rankingach rezultatów – podkreśla dr Inez Okulska, kierowniczka Zakładu Inżynierii Lingwistycznej i Analizy Tekstu w NASK.
– Rynek rozwiązań opartych na AI już pokazał, że nie ureguluje się sam. Błędy i skrzywienia w działaniu nienadzorowanych algorytmów, trenowanie modeli na niekompletnych zbiorach danych, często z naruszeniem zasad ochrony danych osobowych – to wszystko dobrze rozpoznane problemy. Żeby nie dopuścić do ich eskalacji, Unia Europejska pracuje właśnie nad kompleksową regulacją sektora AI. W miejsce rozmytych deklaracji etycznego podejścia do technologii, które tak chętnie serwują nam dziś firmy technologiczne, pojawią się konkretne obowiązki prawne, w tym obowiązek oceniania wpływu danego systemu na prawa człowieka zanim zostanie on wprowadzony na rynek – wyjaśnia Katarzyna Szymielewicz, prawniczka i współzałożycielka Fundacji Panoptykon, która aktywnie angażuje się w prace nad Aktem o sztucznej inteligencji.
Zielone AI
AI może być używana również do wspierania transformacji energetycznej i zwiększania efektywności energetycznej (inteligentne sieci energetyczne). – Efektywność energetyczną można podwyższać już na poziomie budowania algorytmów. W tym celu możemy energooszczędnie uczyć i stosować modele machine learning. Szczególne, że stają się one coraz bardziej powszechne i wymagające coraz większej mocy obliczeniowej – komentuje Tomasz Trzciński, lider grupy badawczej zajmującej się tym zagadnieniem w IDEAS NCBR.
– W naszej grupie badawczej nie ograniczamy modeli uczenia maszynowego, ale próbujemy zwiększać ich efektywność. W tym celu wykorzystujemy informacje, obliczenia i zasoby, do których mamy już dostęp. Można nazwać to recyklingiem obliczeń. W projekcie skupiamy się na tworzeniu modeli uczących się być wydajnymi, a nie tylko zdolnymi do rozwiązania konkretnego zadania – dodaje ekspert.
Kwestia ograniczania energochłonności jest niezwykle istotna, ponieważ wytrenowanie jednego modelu AI może przyczynić się do emisji dwutlenku węgla równej całemu cyklowi życia pięciu samochodów.
AI for Social Impact już w głównym nurcie?
Choć koncepcja AI for Social Impact nie jest nowa, to w ostatnim czasie – wraz z coraz szerszą dyskusją na temat sztucznej inteligencji – wiele osób zaczęło przykładać do niej większą wagę. Podczas tegorocznej edycji prestiżowej konferencji AAAI (Association for the Advancement of Artificial Intelligence), która odbyła się w Waszyngtonie, badacze zwracali szczególną uwagę na zastosowania społeczne sztucznej inteligencji. Ponadto, tej tematyce poświęcono specjalną część wydarzenia, a już w sierpniu AAAI zorganizuje konferencję specjalną: Artificial Intelligence, Ethics and Society.
– W ramach największych konferencji z zakresu Machine Learning, od jakiegoś czasu w formularzach zgłoszeniowych pojawia się obowiązkowa sekcja “social impact”, w której musimy jako autorzy opisać jaki wpływ na społeczeństwo mają nasze algorytmy –tłumaczy Tomasz Trzciński.
Nie bez znaczenia pozostają także wartości, którymi kieruje się wielu badaczy. – Duży wpływ na popularność AI for social impact ma rosnący trend, który nazwałbym “antykorporacyjnym” – młodzi ludzie chcą tworzyć projekty przydatne społecznie, rozwiązujące realne problemy i mogące prowadzić do poprawy jakości życia .– dodaje Piotr Sankowski, prezes IDEAS NCBR.
Microsoft podpowiada, jak szybko i odpowiedzialnie wdrożyć AI w swoich organizacjach
Naukowcy z SWPS stworzyli chatbota uzupełniającego psychoterapię i dbanie o wellbeing
