Geoffrey Hinton: Twórca AI życzyłby sobie wcześniej myśleć o bezpieczeństwie

Geoffrey Hinton, często nazywany ojcem chrzestnym sztucznej inteligencji, przyznaje, że
nie żałuje swojej pracy nad fundamentami AI, ale żałuje, że bezpieczeństwo technologii nie stało
się jego priorytetem wcześniej. Brytyjsko-kanadyjski naukowiec stwierdził podczas weekendowej konferencji prasowej, że nie odczuwa „winnego żalu”, co oznaczałoby, że wiedział, iż robi coś, czego nie powinien.

AI i superinteligencja: przyszłość według Hintona

Hinton, którego badania nad sztuczną inteligencją rozpoczęły się w latach 80., przyznał, że w podobnych okolicznościach postąpiłby tak samo. Jednocześnie zauważył, że tempo rozwoju AI doprowadzi do pojawienia się superinteligencji szybciej, niż pierwotnie przewidywał. Superinteligencja — technologia przewyższająca zdolności najinteligentniejszych ludzi — według Hintona może pojawić się w ciągu najbliższych 5 do 20 lat. Jego zdaniem konieczne jest poważne zastanowienie się, jak utrzymać kontrolę nad taką technologią.

Nagroda Nobla za przełomowe badania

Geoffrey Hinton wygłosił swoje przewidywania podczas konferencji w Sztokholmie, gdzie odbiera Nagrodę Nobla w dziedzinie fizyki. Hinton i John Hopfield, profesor Uniwersytetu Princeton, zostali wyróżnieni za rozwój podstaw uczenia maszynowego, które umożliwia AI naśladowanie sposobu, w jaki uczą się ludzie.

Hinton rozpoczął tydzień noblowski w sobotę od konferencji prasowej, podczas której omawiał kwestie bezpieczeństwa i regulacji AI. W 2022 roku zrezygnował z pracy w Google, aby móc swobodniej wypowiadać się na temat zagrożeń wynikających z rozwoju sztucznej inteligencji, takich jak utrata miejsc pracy, dezinformacja czy potencjalne ryzyko związane z autonomicznymi broniami.

AI w zbrojeniach: brak regulacji i globalny wyścig zbrojeń

Hinton podkreślił, że autonomiczne bronie stanowią jedno z najbardziej bezpośrednich zagrożeń. Jego zdaniem brak globalnych regulacji w tej kwestii jest niepokojący. Zwrócił uwagę, że regulacje unijne wyłączają wojskowe zastosowania AI spod ograniczeń, co prowadzi do międzynarodowego wyścigu zbrojeń między krajami takimi jak Stany Zjednoczone, Chiny, Rosja czy Wielka Brytania.

Historia odkryć Geoffrey’ego Hintona

Podczas swojego wykładu Hinton opisał kluczowe elementy swojej pracy naukowej. Przedstawił m.in. Boltzmannowskie maszyny, które potrafią uczyć się na podstawie przykładów zamiast instrukcji. Maszyny te stały się podstawą wstępnego trenowania sieci neuronowych, co zrewolucjonizowało rozpoznawanie mowy. W 2009 roku technologia stworzona przez jego studentów zaczęła przewyższać dotychczasowe metody, co zmieniło podejście całej branży.

Google szybko zaadaptował odkrycia Hintona, co znacząco poprawiło systemy rozpoznawania mowy w systemie Android. Choć obecne technologie różnią się od Boltzmannowskich maszyn, Hinton podkreślił, że jego praca umożliwiła przejście do skutecznych głębokich sieci neuronowych, które dziś napędzają rozwój AI.

Nagrody i działalność charytatywna

Hinton zapowiedział, że część nagrody Nobla, wynoszącej około 1,45 miliona dolarów kanadyjskich, przekaże na rzecz organizacji Water First, wspierającej dostęp do wody
dla rdzennych społeczności, oraz fundacji pomagającej młodym dorosłym ze spektrum autyzmu. Oprócz Nobla, Hinton został również wyróżniony nagrodą VinFuture, wynoszącą 3 miliony dolarów, za przełomowe odkrycia w nauce.