Marcin Rutecki, data scientist regularnie występujący na konferencjach GigaCon poświęconych sztucznej inteligencji, wprowadził na jednej z ostatnich edycji pojęcie „Self-Aware System” — systemu, który nie tylko wykonuje zadania, ale w pewnym sensie rozumie kontekst własnego działania i potrafi się do niego dostosować. To rozwinięcie koncepcji „pamięci organizacji”, o której mówił wcześniej — od gromadzenia wiedzy do jej aktywnego wykorzystania w czasie rzeczywistym.
Warto od razu doprecyzować, o czym nie mowa — to nie jest sztuczna inteligencja ogólna (AGI) rodem z filmów science fiction. Chodzi o systemy, które potrafią monitorować efekty własnych działań i korygować swoje zachowanie na podstawie tej informacji zwrotnej, zamiast działać według sztywnego, niezmiennego algorytmu, niezależnie od rezultatów.
Praktyczny przykład zamiast abstrakcji
W praktyce może to wyglądać na przykład tak: system rekomendujący treści klientom sklepu internetowego, który nie tylko uczy się na podstawie kliknięć, ale też rozpoznaje, kiedy jego własne rekomendacje przestają być trafne (np. bo zmienił się sezon albo trend rynkowy) i sam sygnalizuje potrzebę ponownego przeszkolenia modelu, zamiast czekać, aż ktoś zauważy spadek skuteczności w raportach kwartalnych.
To podejście łączy się z tematem poruszanym przez Bartosza Kochanowskiego i zespół Rhenus Digital Workforce — automatyzacją procesów przedsprzedażowych, w której system nie tylko wykonuje zadania, ale aktywnie sygnalizuje sytuacje wymagające interwencji człowieka, zamiast działać w pełni autonomicznie bez żadnego nadzoru.
Gdzie leży granica ostrożności
Im bardziej autonomiczny staje się system, tym istotniejsze stają się mechanizmy nadzoru nad nim — możliwość sprawdzenia, dlaczego podjął taką, a nie inną decyzję, oraz możliwość szybkiej interwencji, jeśli zacznie działać w sposób niepożądany. To temat, który firmy wdrażające bardziej zaawansowane systemy AI powinny traktować równie poważnie jak same możliwości technologiczne.
Jeśli interesuje Was, jak wygląda praktyczne wykorzystanie zaawansowanych systemów AI w biznesie, warto zobaczyć konkretne przykłady na żywo. Zapisz się na konferencję AI organizowaną przez GigaCon.

