Współczesna sztuczna inteligencja stoi przed fundamentalnym wyzwaniem: jak połączyć elastyczność działania z pełną przejrzystością podejmowanych decyzji? Naukowcy z projektu WhiteMech, pod kierownictwem prof. Giuseppe De Giacomo z Uniwersytetu Oksfordzkiego, opracowali rozwiązanie, które może zrewolucjonizować sposób, w jaki maszyny adaptują się do nieznanych sytuacji.
Obecnie większość inteligentnych maszyn i robotów działa w oparciu o sztywne reguły zaprojektowane przez ludzi. Choć systemy te sprawdzają się w przewidywalnych warunkach, zawodzą, gdy napotkają okoliczności wykraczające poza ich pierwotną specyfikację.
Problem kosztów: Ręczne tworzenie list wszystkich możliwych zadań adaptacyjnych jest zbyt drogie.
Ryzyko błędów: Programiści nie są w stanie przewidzieć każdej interakcji ze światem rzeczywistym.
Brak elastyczności: Sztywne algorytmy nie radzą sobie z nieoczekiwanymi decyzjami ludzi lub niezamodelowanymi zdarzeniami.
Generatywna Sztuczna Inteligencja (GenAI) pozwala uniknąć sztywnych reguł na rzecz rozwiązań wyuczonych, jednak posiada istotną wadę: jest „czarną skrzynką”.
„Nadal nie wiemy dokładnie, jak i dlaczego GenAI podejmuje takie, a nie inne decyzje, ani czy są one właściwe w kontekście określonego zadania” – zauważa prof. De Giacomo.
Brak przejrzystości wyklucza GenAI z tzw. systemów o znaczeniu krytycznym dla bezpieczeństwa (np. w medycynie), gdzie każda decyzja może mieć poważne konsekwencje.
Zespół projektu WhiteMech, finansowanego przez Europejską Radę ds. Badań Naukowych, postawił na mechanizmy typu „biała skrzynka”. Są to systemy, które nie tylko samodzielnie generują zachowania, aby osiągnąć cel, ale robią to w sposób w pełni zrozumiały i wyjaśnialny.
Matematyczny model środowiska: System bazuje na analizie tego, jak jego działania wpływają na otoczenie.
Synteza reaktywna: Zamiast sprawdzać poprawność systemu po fakcie, programy WhiteMech obliczają i wdrażają reakcję w momencie wystąpienia problemu.
Gwarancje poprawności: Każda autonomicznie obliczona reakcja posiada formalne zapewnienie, że jest właściwa i bezpieczna.
Choć WhiteMech narodził się jako projekt o charakterze naukowo-badawczym, jego wyniki już teraz budzą ogromne zainteresowanie w sektorach stawiających na zaawansowaną automatyzację. Potencjał samoprogramujących się mechanizmów dostrzegają szczególnie specjaliści zajmujący się inteligentnymi fabrykami, robotyką, cyfrowymi bliźniakami oraz nowoczesnym zarządzaniem procesami biznesowymi. O rynkowym i naukowym znaczeniu tych rozwiązań świadczy m.in. wyjątkowo duża liczba cytowań publikacji przygotowanych przez zespół prof. De Giacomo.
Naukowcy planują przenieść swoje narzędzia z laboratorium do rzeczywistych zastosowań. Nowym kierunkiem badań jest połączenie GenAI (wykorzystywanej do matematycznego modelowania przestrzeni, np. pomieszczeń) z technikami WhiteMech, które będą odpowiadać za automatyczne i bezpieczne wykonywanie zadań w tych obszarach.
Na podstawie: https://cordis.europa.eu
poleca:
