Panel ONZ wymienia pilne szanse i zagrożenia związane ze sztuczną inteligencją w wstępnym raporcie

MANILA, Filipiny – Niezależny Międzynarodowy Panel Naukowy ONZ ds. Sztucznej Inteligencji opublikował pierwszy w swoim rodzaju wstępny raport oceniający najpilniejsze szanse, zagrożenia i skutki związane ze sztuczną inteligencją.

Panel, składający się z 40 członków, któremu współprzewodniczą Yoshua Bengio z Kanady i Maria Ressa z Filipin, dąży do „przedstawienia wyważonej analizy" ryzyk i szans związanych ze sztuczną inteligencją oraz ma na celu zapewnienie decydentom wspólnej bazy wiedzy i dowodów niezbędnych do skutecznego i terminowego reagowania.

„Technologia ta jest przełomowa, ale jeśli świat będzie podążał tą trajektorią, ludzkość nie zdoła wykorzystać obiecywanych przez nią korzyści. Ryzyko — dla społeczeństw, bezpieczeństwa i naszego gatunku — jest zbyt wysokie, a siły napędzające rozwój sztucznej inteligencji nie są tymi siłami, które zapewnią jej korzyści" — powiedziała Ressa.

„Możliwości sztucznej inteligencji wyprzedzają zarówno naukowe rozumienie, jak i zdolność rządów do adaptacji. W obliczu rosnących dowodów na zwodnicze zachowanie systemów AI, nauka nie może obecnie zagwarantować, że wraz z dalszym wzrostem możliwości sztuczna inteligencja nie spowoduje katastrofalnych szkód — ani samodzielnie, ani za sprawą złośliwych użytkowników. Aby działać skutecznie, globalni decydenci muszą rozumieć te systemy. Panel dostarcza właśnie tego: rygorystycznych, wspólnych podstaw naukowych, które poprowadzą nas wspólnie naprzód" — dodał Bengio.

W streszczeniu wykonawczym raportu Panel napisał: „Wdrożona i stosowana w przemyślany sposób sztuczna inteligencja może wspierać postęp w realizacji Celów Zrównoważonego Rozwoju, rozwijać nauki o zdrowiu i zwiększać dostęp do edukacji."

„Jednocześnie szybkie tempo rozwoju technologicznego i szeroki zakres potencjalnych zastosowań stawiają przed decydentami poważne wyzwania. Szybkie, niekontrolowane wdrażanie technologii na dużą skalę wiąże się również ze znacznym ryzykiem, w tym szkodami dla zdrowia psychicznego użytkowników, potencjalnym wykorzystaniem jako narzędzia destrukcji, wpływem na systemy społeczne, gospodarcze i środowiskowe oraz wyzwaniami związanymi z kontrolowaniem technologii" — dodał Panel.

Znaczenie Panelu

Panel definiuje systemy AI jako „systemy maszynowe, które ogólnie rzecz biorąc, postrzegają, uczą się i działają. Na podstawie danych wejściowych wnioskują, jak generować wyniki, takie jak prognozy, treści, rekomendacje, działania lub decyzje, z różnym stopniem autonomii i adaptacyjności."

Panel stwierdził, że jego analiza zajmuje wyjątkową pozycję z trzech powodów.

Po pierwsze, wychodzi z założenia, że ONZ jest najważniejszym globalnym forum ds. transgranicznych zagrożeń o zasięgu globalnym.

Po drugie, Panel jest mechanizmem ONZ z określonym mandatem do naukowej oceny stanu, ryzyk i możliwości sztucznej inteligencji.

Wreszcie Panel stwierdza, że posiada mandat naukowy, a nie polityczny: „dokumentowania dowodów naukowych, konsensusu i rozbieżności oraz wskazywania, które luki w wiedzy wymagają pilnego uzupełnienia." Dostarczając rządom i instytucjom bazy dowodowej potrzebnej do działania w czasie, zalecenia Panelu pozostają istotne dla polityki, ale nie są dla niej nakazowe.

„Ten naukowy charakter powinien sprawić, że jego ustalenia będą porównywalne w różnych regionach i odporne na cykle polityczne" — dodał Panel.

Co dostrzega Panel i jakie luki istnieją

Sekcja druga raportu dotyczy tego, co dowody wskazują w odniesieniu do sztucznej inteligencji, a Panel sformułował następujące stwierdzenia dotyczące AI, poparte przykładami i dalszym komentarzem:

• Możliwości sztucznej inteligencji rozwijają się szybciej niż zdolność do ich mierzenia lub regulowania
• Tylko nieliczni aktorzy wytrenowali graniczne modele sztucznej inteligencji
• Dane wejściowe i wyniki sztucznej inteligencji są geograficznie i językowo nierównomierne
• Przepaść w zakresie sztucznej inteligencji dotyczy nie tylko dostępu, ale także zdolności do wpływania na jej rozwój
• Aby sztuczna inteligencja była użyteczna, musi być wspierana przez sprzyjające środowisko
• Agentyczna sztuczna inteligencja stanowi przełom w zarządzaniu (pod względem szans i zagrożeń)
• Sztuczna inteligencja może erodować wspólną rzeczywistość
• Sztuczna inteligencja przekształca prawa człowieka, w tym prawa dzieci

Sekcja trzecia wymienia natomiast potencjalne szanse i zagrożenia w różnych dziedzinach wiedzy.

Ogólnie Panel zauważył, że sztuczna inteligencja „przeszła od pasywnego rozpoznawania wzorców do aktywnego rozumowania i autonomicznego działania. Dziedzina ta szybko ewoluuje od obecnych modeli rozumowania w kierunku zorganizowanych sieci agentycznych, a ostatecznie — systemów samodoskonalących się."

Panel dodał, że dostęp do sztucznej inteligencji nie tworzy automatycznie korzyści. Zamiast tego stwierdził: „Celowo zaprojektowana, zadaniowo ukierunkowana sztuczna inteligencja przynosi mierzalne, poparte dowodami korzyści w nauce, zdrowiu, edukacji i rolnictwie. Korzyści te są realne, ale warunkowe: zależą od lokalnej kontekstualizacji, odpowiedniej infrastruktury i przygotowania ludzi."

Ponadto sztuczna inteligencja może być wykorzystywana pozytywnie, ale korzyści z jej stosowania nie są automatyczne. W zakresie korzyści ekonomicznych Panel stwierdził, że „korzyści z produktywności wymagają komplementarnych inwestycji w umiejętności, dane i reorganizację organizacyjną."

Dodał: „Kluczowym nierozwiązanym pytaniem jest kwestia dystrybucji: kto przejmuje nadwyżkę i co dzieje się z pracą, z gospodarkami rozwijającymi się oraz z ramami regulacyjnymi zbudowanymi dla innej epoki w różnych branżach?"

W zakresie globalnego bezpieczeństwa Panel zauważył również, że „sztuczna inteligencja może umożliwiać szkodliwe operacje, stać się celem ataku i wzmacniać istniejące zagrożenia." Obejmuje to zagrożenia cyberbezpieczeństwa, ale Panel zauważył również, że skutki środowiskowe „znacząco rosną."

Panel stwierdził również, że sztuczna inteligencja „przekształca prawa człowieka, demokrację i ekosystem informacyjny poprzez zmiany na poziomie systemowym, które stwarzają zarówno znaczące szanse, jak i strukturalne zagrożenia dla integralności informacji i uczestnictwa obywatelskiego." Jeśli te zagrożenia nie zostaną rozwiązane, Panel stwierdził, że zdolność społeczeństwa do czerpania korzyści ze sztucznej inteligencji zostanie podważona.

Dodał, że niestety istnieją już dowody na to, że instytucje wykorzystują możliwości sztucznej inteligencji jako katalizator lub zagrożenie dla praw człowieka, takich jak wolność słowa, dostęp do informacji, sprawiedliwość, zdrowie i rozwój oraz inne prawa człowieka.

Sekcja trzecia kończy się stwierdzeniem, że decydenci stoją przed dylematem dowodowym: mogą albo podejmować decyzje dotyczące zarządzania sztuczną inteligencją przy niewystarczającym uzasadnieniu naukowym już teraz, albo czekać na dowody, które mogą nadejść zbyt późno na jakąkolwiek wartościową interwencję.

Tymczasem sekcja czwarta raportu nakreśla luki naukowe — obszary, w których baza dowodowa dotycząca pewnych aspektów sztucznej inteligencji pozostaje nierównomierna lub niewystarczająca, co skłoniło Panel do stwierdzenia, że nie może jeszcze wyciągać pewnych wniosków naukowych w tych kwestiach.

Obejmują one niejednoznaczne dowody dotyczące makroekonomicznych i produktywnościowych skutków wdrożenia sztucznej inteligencji, środowiskowych aspektów jej wdrożenia, globalnego łańcucha dostaw AI oraz skutków na poziomie indywidualnym i zbiorowym, wśród innych luk.

Panel dodał, że zakres wstępnego raportu nie obejmował wojskowych zastosowań sztucznej inteligencji ani śmiercionośnych autonomicznych systemów uzbrojenia.

Pełna kopia raportu wraz ze streszczeniem wykonawczym jest dostępna na tej stronie. – Rappler.com