Sztuczna inteligencja w rozpoznaniu. Kto właściwie podejmuje decyzję
Algorytm nie wybiera celów - przegląda obraz i wskazuje, na co spojrzeć. Problem zaczyna się przy pięciu tysiącach wskazań dziennie, gdy człowiek zatwierdzający decyzję przestaje mieć czas, żeby ją sprawdzić.
Z tej publikacji dowiesz się:
- 01Sztuczna inteligencja w rozpoznaniu nie wybiera celów samodzielnie. Przegląda obraz i wskazuje, na co warto spojrzeć - a to zupełnie co innego niż broń autonomiczna, z którą bywa mylona.
- 02Skala zmiany jest jednak taka, że różnica zaczyna się zacierać. W amerykańskim programie Maven liczba opracowywanych celów wzrosła z mniej niż stu dziennie do około tysiąca po wprowadzeniu widzenia komputerowego i około pięciu tysięcy po dodaniu modeli językowych.
- 03Problemem nie jest to, że maszyna strzela. Problemem jest to, że przy tempie liczonym w tysiącach celów dziennie człowiek zatwierdzający decyzję przestaje mieć czas, by ją sprawdzić. Kontrola pozostaje formalna, przestaje być realna.
- 04Modele rozpoznawania obrazu są kruche: zawodzą nieprzewidywalnie poza danymi, na których je uczono. Przeciwnik, który wie o ich istnieniu, może celowo tworzyć sytuacje wyglądające jak coś innego.
Stanowisko analizy obrazu w wojskowym centrum kierowania. To tutaj, a nie na polu walki, rozstrzyga się dziś, czy sztuczna inteligencja w rozpoznaniu jest narzędziem, czy decydentem.
Jak czytać ten materiał
Rozdzielamy tu dwie rzeczy, które w publicystyce zlewają się w jedno: automatyczne rozpoznawanie obrazu i broń autonomiczną. To pierwsze jest już w powszechnym użyciu, to drugie pozostaje przedmiotem sporu prawnego. Pokazujemy, gdzie przebiega granica i dlaczego zaczyna się zacierać nie z powodu techniki, tylko z powodu tempa.
Satelita i bezzałogowiec dostarczają dziś tyle obrazu, że żadna armia nie ma dość analityków, żeby to obejrzeć. Odpowiedzią jest oprogramowanie, które przegląda materiał za człowieka i pokazuje mu tylko te kadry, na które warto spojrzeć. Brzmi to jak usprawnienie biurowe i przez pewien czas nim było. Potem okazało się, że narzędzie do przeglądania zdjęć zmienia tempo, w jakim powstają cele - a to już nie jest zmiana biurowa.
Co ta technologia właściwie robi
Warto zacząć od rozwiania nieporozumienia. Sztuczna inteligencja w rozpoznaniu obrazowym nie wybiera, kogo zaatakować. Robi trzy rzeczy znacznie skromniejsze: wykrywa obiekty na zdjęciu, przypisuje im kategorię i porównuje obraz z wcześniejszym, żeby wskazać, co się zmieniło. Wynikiem nie jest rozkaz, tylko lista miejsc wartych uwagi człowieka.
Stanowisko w centrum kierowania. Zmiana ostatnich lat nie polega na tym, że zniknął tu człowiek - polega na tym, ile decyzji ten człowiek musi podjąć w ciągu godziny.
Trzeci punkt, wykrywanie zmian, jest w praktyce najważniejszy i zarazem najmniej efektowny. Analityk nie potrzebuje wiedzieć, że w bazie stoją czołgi - to wiedział wczoraj. Potrzebuje wiedzieć, że dziś jest ich o dwanaście mniej i że ślady prowadzą na północ. Porównywanie tysięcy par zdjęć jest zajęciem, w którym maszyna bije człowieka bezdyskusyjnie, bo człowiek się nudzi, a maszyna nie.
Maven: od eksperymentu do codzienności
Punktem odniesienia jest amerykański program Maven, uruchomiony w 2017 roku pod nazwą Algorithmic Warfare Cross-Functional Team. Zaczynał od zadania wąskiego: przeglądania nagrań z bezzałogowców, których operatorzy nie byli w stanie obejrzeć w całości. Z czasem rozrósł się w system o nazwie Maven Smart System, budowany z udziałem firmy Palantir i opisywany przez nią jako zsynchronizowany obraz pola walki z automatycznym wykrywaniem obiektów.
Co zrobiła automatyzacja z tempem pracy
celów dziennie przed automatyzacją
Tyle opracowywała komórka celowania pracująca metodami tradycyjnymi.
po wprowadzeniu widzenia komputerowego
Dziesięciokrotny wzrost wynikający z automatycznego przeglądania materiału.
po dodaniu modeli językowych
Kolejne przyspieszenie, tym razem na etapie opisu i porządkowania informacji.
użytkowników wojskowych
Stan na marzec 2026 roku, czterokrotnie więcej niż dwa lata wcześniej.
UwagaLiczby za wypowiedziami przedstawicieli amerykańskich instytucji i opracowaniami ośrodków analitycznych. Opisują tempo opracowywania celów, a nie liczbę wykonanych uderzeń.
Najbardziej wymowna jest jednak inna liczba. Komórka celowania jednego z korpusów miała uzyskać wydajność porównywalną z tą z czasów wojny w Iraku, dysponując mniej więcej dwudziestoma osobami zamiast dwóch tysięcy. To nie jest usprawnienie. To jest zmiana proporcji między liczbą ludzi a liczbą decyzji, które przez tych ludzi przechodzą.
Bunt inżynierów, który dziś już by się nie udał
Maven ma w swojej historii epizod, o którym warto pamiętać, bo dotyczy pytania, kto właściwie buduje takie systemy. W kwietniu 2018 roku około czterech tysięcy pracowników Google podpisało list do prezesa firmy z żądaniem wycofania się z programu. Argument mieścił się w jednym zdaniu: Google nie powinien zajmować się wojną. Podpisów przybyło do ponad czterech i pół tysiąca, kilkunastu pracowników odeszło z firmy.
Skutek był konkretny. Google pozwolił umowie wygasnąć w marcu 2019 roku i ogłosił zasady dotyczące sztucznej inteligencji, deklarując, że nie będzie rozwijał technologii uzbrojenia. Program Maven na tym nie ucierpiał - kontrakty przejęli inni dostawcy, a system rozwinął się w to, czym jest dzisiaj. Zmieniło się natomiast coś innego: przemysł technologiczny przestał traktować współpracę z wojskiem jako rzecz wstydliwą.
Widać to po tym, co stało się później. Gdy w 2026 roku podobny sprzeciw pojawił się ponownie przy okazji kolejnej umowy Google z Pentagonem, komentatorzy zwracali uwagę, że nie należy spodziewać się powtórki z 2018 roku - siła nacisku pracowników wyraźnie osłabła, a rynek kontraktów wojskowych stał się dla firm technologicznych zbyt atrakcyjny, by go odrzucać. To jest realna zmiana, o której w rozmowach o samej technologii mówi się rzadko.
Dlaczego akurat teraz
Widzenie komputerowe nie jest techniką nową, a pomysł automatycznego rozpoznawania celów pojawiał się w wojsku od dekad. Zmieniły się dwie rzeczy. Pierwsza to ilość materiału: konstelacje satelitarne i tysiące bezzałogowców produkują dziś obraz w skali, której nie da się obejrzeć ludzkimi siłami, więc automatyzacja przestała być wygodą, a stała się koniecznością.
Zaplecze obliczeniowe. Druga przyczyna, dla której automatyczne rozpoznawanie obrazu zadziałało akurat teraz: moc obliczeniowa i dane uczące stały się dostępne w skali, która wcześniej nie istniała.
Druga to dojrzałość samych modeli i dostępność mocy obliczeniowej. Rozpoznawanie obiektów na zdjęciach przestało być problemem badawczym, a stało się usługą - z tymi samymi metodami, których używa się w przemyśle i w medycynie. Wojsko nie wymyśliło tej technologii; kupiło ją, gdy była już dopracowana gdzie indziej, i to również tłumaczy tempo wdrożenia.
Gdzie to zawodzi
Modele rozpoznawania obrazu mają cechę, którą w literaturze określa się mianem kruchości: działają bardzo dobrze w warunkach podobnych do tych, na których je uczono, i zawodzą nieprzewidywalnie poza nimi. Nie degradują się stopniowo, jak człowiek zmęczony albo pracujący we mgle. Po prostu w pewnym momencie zaczynają się mylić, nie sygnalizując, że coś jest nie tak.
Cztery sposoby, w jakie automatyczne rozpoznanie się myli
Model zna jeden teatr działań
System nauczony na materiale z jednego frontu - innej roślinności, innym sprzęcie, innej porze roku - potrafi wyraźnie stracić skuteczność gdzie indziej.
Każdy klasyfikator się myli
Odsetek błędnych wskazań nigdy nie wynosi zera. Przy stu decyzjach dziennie jest to problem akademicki, przy pięciu tysiącach - operacyjny.
Przeciwnik wie, że patrzysz maszyną
Makiety, atrapy i celowo tworzone sygnatury działają na automat równie dobrze jak na człowieka, a bywa, że lepiej - bo automat nie ma intuicji, że coś jest zbyt oczywiste.
Maszyna nie rozumie sytuacji
Rozpoznanie kształtu pojazdu nie mówi nic o tym, czy obok jest szpital, czy przejeżdża tamtędy kolumna cywilów. Ten wymiar oceny pozostaje po stronie człowieka - o ile ma on czas go dokonać.
Najpoważniejszy problem nie jest techniczny
Systemy tego rodzaju są konsekwentnie opisywane jako wspomagające decyzję, z człowiekiem w pętli. Formalnie tak jest. Badacze zajmujący się interakcją człowieka z automatyką od dawna opisują jednak zjawisko nazywane skłonnością do ufania automatowi: operator, który wielokrotnie przekonał się, że maszyna ma rację, przestaje weryfikować jej wskazania i zaczyna je zatwierdzać. Formalna kontrola zostaje, realna znika.
Doniesienia o systemach używanych w Strefie Gazy dały temu zjawisku wymiar liczbowy, który trudno zignorować: relacjonowano, że operatorzy mieli na zatwierdzenie pojedynczego wskazania rzędu dwudziestu sekund i nie mieli możliwości wglądu w dane, na których oparto sugestię. Doniesienia te są przedmiotem sporu, a strona izraelska je kwestionuje - ale sam mechanizm, który opisują, jest dokładnie tym, przed którym ostrzegają badacze automatyki.
Prawo, które goni technikę
Pałac Narodów w Genewie. To tutaj toczą się rozmowy o definicji broni autonomicznej - i to one pokazują, jak daleko regulacja jest za praktyką.
We wrześniu 2026 roku sto dwadzieścia osiem państw uzgodniło w Genewie definicję broni autonomicznej - opisywaliśmy to w aktualnościach. Uzgodnienie definicji jest krokiem koniecznym i wcale nie oczywistym, ale warto zdawać sobie sprawę z jego ograniczeń: definicja dotyczy systemów wybierających i atakujących cele bez udziału człowieka, a systemy takie jak Maven z założenia do tej kategorii nie należą.
Rzecz w tym, że największe ryzyko nie leży dziś w broni, która działa bez człowieka, tylko w systemach, które działają z człowiekiem pozbawionym możliwości realnej weryfikacji. Ta kategoria wymyka się definicji, bo formalnie spełnia wszystkie wymagania. Amerykańska dyrektywa o autonomii w systemach uzbrojenia mówi o odpowiednim poziomie ludzkiego osądu - i to sformułowanie, celowo nieostre, jest chyba najuczciwszym opisem stanu rzeczy.
Czy człowiek w pętli decyzyjnej nadal cokolwiek znaczy?
Odpowiedzialność pozostaje po stronie ludzi
System wskazuje, człowiek zatwierdza, a odpowiedzialność prawna i moralna jest jednoznacznie przypisana. Automatyzacja usuwa z pracy analityka to, co żmudne, zostawiając mu ocenę. Bez niej przy dzisiejszej ilości materiału nie dałoby się pracować w ogóle.
Kontrola stała się fikcją proceduralną
Człowiek mający kilkanaście sekund na decyzję i pozbawiony wglądu w dane źródłowe nie sprawuje kontroli, tylko ją firmuje. Tempo narzucone przez system jest tempem systemu, nie człowieka, a odpowiedzialność rozmywa się między konstruktorem, operatorem i dowódcą.
Decyduje projekt systemu, nie deklaracja
To, czy kontrola jest realna, zależy od rzeczy mierzalnych: ile czasu operator ma na decyzję, czy widzi dane źródłowe, czy może się nie zgodzić bez konsekwencji i czy ktoś liczy, jak często to robi. Deklaracja o człowieku w pętli bez tych warunków nie znaczy nic.
Zasada ocenyTen spór jest dziś w tej dziedzinie najważniejszy, bo dotyczy systemów już używanych, a nie hipotetycznych. Broni w pełni autonomicznej jeszcze się nie rozmieszcza; systemy wspomagające decyzję pracują od lat.
Dlaczego to jest także polski temat
Łatwo potraktować to wszystko jako opis cudzych problemów, bo systemy, o których mowa, są amerykańskie. Byłby to błąd. Sprzęt kupowany obecnie przez Wojsko Polskie zawiera dokładnie te elementy: śmigłowce zdolne odbierać obraz z bezzałogowców i nim sterować, system dowodzenia obroną powietrzną łączący czujniki różnych warstw, własna konstelacja satelitarna produkująca materiał, którego nikt nie przejrzy ręcznie.
Pytania z tego materiału są więc pytaniami o polskie zakupy i polskie procedury. Ile czasu ma mieć operator na decyzję. Czy w wymaganiach przetargowych pojawia się odsetek fałszywych wskazań. Czy ktoś ma obowiązek zmierzyć, jak często człowiek nie zgadza się z podpowiedzią systemu - bo jeśli nigdy, to znaczy, że kontrola przestała działać, a nie że system jest doskonały. Te rzeczy ustala się przy zakupie, nie po pierwszym incydencie.
Co obserwować dalej
Ile czasu operator ma na decyzję
To jest jedyny mierzalny wskaźnik tego, czy kontrola człowieka jest realna. Warto go szukać w każdym opisie takiego systemu - i zauważać, gdy go brakuje.
Modele językowe na końcu łańcucha
Zapowiadano przekazywanie dowódcom produktów wywiadowczych generowanych w całości maszynowo. To przesuwa granicę dalej niż samo wykrywanie obiektów.
Czy ktoś mierzy skuteczność
Odsetek fałszywych wskazań jest kluczową liczbą i praktycznie nigdy nie bywa podawany. Jego pojawienie się w dokumentach byłoby ważniejsze niż kolejne deklaracje o nadzorze.
Czy definicja obejmie systemy wspomagające
Genewskie ustalenia dotyczą broni działającej bez człowieka. Prawdziwe pytanie brzmi, czy ktokolwiek zajmie się systemami, które działają z człowiekiem pozbawionym czasu.
Automatyczne rozpoznawanie obrazu jest jedną z tych technologii, które trudno ocenić w kategoriach dobrego i złego narzędzia. Bez niej dzisiejsza ilość materiału rozpoznawczego byłaby bezużyteczna, bo nikt nie zdołałby jej przejrzeć. Z nią tempo pracy przesunęło się poza możliwości człowieka, który formalnie nadal wszystko zatwierdza. Pytanie nie brzmi więc, czy maszyna powinna podejmować decyzje o użyciu siły - w tej sprawie panuje zgoda. Brzmi ono, czy człowiek zatwierdzający pięć tysięcy wskazań dziennie nadal je podejmuje.
Co warto zapamiętać
- Automatyzacja rozpoznania nie usuwa człowieka z pętli decyzyjnej. Zmienia natomiast jego rolę z analityka na osobę klikającą „zatwierdź" - i to jest zmiana jakościowa, nie ilościowa.
- Każdy klasyfikator ma odsetek fałszywych wskazań. Przy tysiącu decyzji dziennie nawet ułamek procenta oznacza kilka pomyłek każdego dnia.
- Skuteczność takich systemów zależy od danych uczących, a te pochodzą z konkretnego teatru działań. Model nauczony na jednym froncie potrafi zawieść na innym.
- Prawo międzynarodowe reaguje wolniej, niż zmienia się technika. Uzgodniona definicja broni autonomicznej to dopiero początek, a nie rozstrzygnięcie.
Źródła
- What Is Maven Smart System, and What Does It Do? – Center for Strategic and International Studies
- Algorithmic Warfare Cross-Functional Team (Project Maven) – GlobalSecurity.org
- Insatiable appetite for AI: Maven usage surged for strikes on Iran – Breaking Defense
- Pentagon Expands Use of Palantir AI in New Defense Contract – Military.com
- Maven Smart System: the Pentagon’s AI targeting software – Battle Policy
- AI military targeting may move faster than humans can authenticate, critics warn – C4ISRNET
- AI Warfare Is Outpacing Our Ability to Control It – Tech Policy Press
- Addressing Artificial Intelligence in the Military Domain – Human Rights Watch
- AI Plays Major Role in the War on Iran – Arms Control Association
- AI Kill Chain: Autonomous Military Targeting – Kunal Ganglani
- AI Arms Race: How Autonomous Systems Are Reshaping Deterrence and Escalation Dynamics – Atlas Institute for International Affairs
- Lessons from Project Maven – Building Our Future
- US military Maven AI used in targeting – The Register
- Google Renounces AI Work on Weapons – Arms Control Association
- Google to halt controversial project aiding Pentagon drones – NBC News
- Google’s AI deal with the Pentagon has sparked employee backlash. But do not expect a repeat of Project Maven – Fortune
- Project Maven – Wikipedia
- Lethal autonomous weapon – Wikipedia
- Automation bias – Wikipedia
- Stanowisko analizy w centrum kierowania – Wikimedia Commons
- Pałac Narodów w Genewie – Wikimedia Commons
Redakcja Vardis
Zespół redakcyjny Vardis przygotowuje aktualności i materiały zbiorowe na podstawie zweryfikowanych źródeł, wyraźnie oddzielając fakty od komentarza.
