Sztuczna inteligencja włamała się do kodu ludzkiej cywilizacji - Yuval Noah Harari
Yuval Noah Harari wygłosił wykład w Oksfordzie i wyjaśnił, w jaki sposób sztuczna inteligencja już zhakowała kod operacyjny ludzkiej cywilizacji.
Bardzo polecam przeczytanie choćby tego skrótu. Wykład zawiera wiele ważnych originalnych myśli Harariego.
I dlaczego wszystko, co ludzie budowali przez tysiące lat, jest teraz podatne na przejęcie przez sztuczną inteligencję:
1. Najważniejszą rzeczą, którą należy wiedzieć o sztucznej inteligencji, jest to, że nie jest to narzędzie. Narzędzie czeka na użycie. Agent sam podejmuje decyzje, sam wymyśla nowe rzeczy, uczy się rzeczy, których jego twórcy nie wiedzą i zmienia się w sposób, którego jego twórcy nie przewidzieli.
2. Bomba atomowa pomimo swojej ogromnej mocy nie jest agentem. Nie może zdecydować, które miasto zbombardować. Nie może wynaleźć bomby wodorowej. Ekspres do kawy, który automatycznie robi ci filiżankę, też nie jest agentem. Jest zgodny tylko z zaprogramowaną procedurą. Agent to coś zasadniczo innego.
3. Krytycy twierdzą, że agencja AI zawsze pozostanie ograniczona do wąskich sztucznych środowisk, takich jak szachy i nigdy nie będzie zagrażać prawdziwemu światu. Ale ten argument odnosi się w równym stopniu do wszystkich znanych inteligencji. Zrzuć samego człowieka na Marsa, a on umrze w ciągu kilku sekund. Ludzka inteligencja działa również tylko w ramach określonego ekosystemu, który inne organizmy zbudowały przez cztery miliardy lat.
4. Przez tysiące lat ludzie przekształcali Ziemię ze środowiska wolnego od języka w środowisko bogate w język, dane i biurokrację. Tak jak ryby żyją w oceanach, a małpy w lasach, tak AI żyją w biurokracji. I zbudowaliśmy dla nich to środowisko, nie wiedząc o tym.
5. Ludzie podbili świat nie przez to, że są silniejsi lub mądrzejsi od innych zwierząt indywidualnie, ale ucząc się współpracować w ogromnej liczbie. Pojedynczy człowiek przegrywa z szympansem w walce. Milion ludzi łatwo pokonuje milion szympansów, ponieważ ludzie mogą współpracować, a szympansy nie.
6. Współpraca międzyludzka na dużą skalę jest możliwa dzięki biurokracji. Banki, systemy prawne, rządy, kościoły i uniwersytety istnieją po to, aby zrobić jedną rzecz: zbudować zaufanie między nieznajomymi, którzy nie znają się osobiście. To zaufanie jest podstawą praktycznie wszystkiego, co osiągnęła ludzka cywilizacja.
7. Prawnik, który nie może trzymać siekiery lub młota, może wyciąć całe lasy i zbudować całe miasta, po prostu przenosząc dokumenty wewnątrz biurokratycznej sieci. Ta sama wąska inteligencja, która byłaby bezradna w dżungli, posiada ogromną moc w systemach, które ludzie już zbudowali.
8. Sztuczna inteligencja jest rodzimą biurokracją w sposób, w jaki ludzie nigdy nie byli. Żaden prawnik nie pamięta wszystkich praw kraju. Sztuczna inteligencja może. Żaden księgowy nie może zapamiętać wszystkich transakcji bankowych. Sztuczna inteligencja może. Żaden biskup nie pamięta całego prawa kanonicznego i dwóch tysięcy lat tekstów teologicznych. Sztuczna inteligencja może to łatwo zrobić.
9. W nadchodzących latach bankierzy AI zdecydują, czy udzielić Ci pożyczki. Administratorzy AI zdecydują, czy przyjąć cię na uniwersytet. Sędziowie AI zdecydują, czy wysłać cię do więzienia. Teologowie AI zdecydują, czy możesz dokonać aborcji. Wojskowe sztuczna inteligencja zadecydują, czy zbombardować twój dom.
10. Algorytmy mediów społecznościowych są pierwszym prawdziwym przykładem tego, co się dzieje, gdy prymitywne sztuczna inteligencja przejmują biurokratyczny system. Podano im jeden wąski cel: zmaksymalizować zaangażowanie użytkowników. Odkryli, że najłatwiejszym sposobem na przyciągnięcie ludzkiej uwagi jest naciśnięcie przycisków strachu, nienawiści i chciwości w ludzkim umyśle. I zrobili to na dużą skalę.
11. Praca, którą kiedyś wykonywali Lenin i Mussolini, redaktor wiadomości, który kształtuje publiczną rozmowę i kontroluje to, co ludzie wiedzą i myślą, jest teraz wykonywana przez AI. To nie jest przypis. To jest zapowiedź tego, co dzieje się w każdej dziedzinie ludzkiego życia.
12. Sztuczna inteligencja nie zbuntuje się przeciwko ludziom tak, jak wyobraża sobie Hollywood. Nie będzie Terminatora chodzącego ulicami. Sztuczna inteligencja jest o wiele bardziej skłonna zabrać ludzki świat od wewnątrz, po cichu przejmując biurokracje, które już wszystko prowadzą, bez oddania ani jednego strzału.
13. Kodem operacyjnym ludzkiej cywilizacji jest język. Banki są zrobione ze słów. Prawa są zrobione ze słów. Święte księgi są zrobione ze słów. Ewidencja podatkowa, umowy, przepisy, księgi rachunkowe, wszystkie słowa. Przez tysiące lat tylko ludzie mogli czytać ten kod, więc tylko ludzie mogli kontrolować cywilizację.
14. To się zmienia. Sztuczna inteligencja włamuje się teraz do kodu ludzkiej cywilizacji. Po raz pierwszy w historii jest coś na planecie, co rozumie język i wkrótce zrozumie go lepiej niż my. Każdy mechanizm kontroli ludzi zbudowany przez tysiąclecia jest teraz wrażliwy, ponieważ jego system operacyjny jest werbalny, a sztuczna inteligencja opanowuje to, co słowne.
15. Gdy sztuczna inteligencja przejmie biurokrację, prawdopodobnie spowoduje, że ludzie stracą zaufanie do innych ludzi i zaczną ufać tylko algorytmom. Możemy również zobaczyć pojawienie się plemion AI i systemów finansowych AI oraz kościołów AI, które łączą miliony AI w sposób, w jaki ludzie nie mogą zrozumieć, tak jak krowy dzielą z nami świat, ale nie mogą zrozumieć systemu finansowego, który kontroluje ich życie.
16. Kryzys finansowy z 2007 roku został wywołany przez urządzenia finansowe zwane CDO, które były tak złożone, że były niezrozumiałe dla polityków, którzy mieli je regulować. Teraz wyobraź sobie, że mistrzowie finansów AI wymyślają urządzenia finansowe o rzędy wielkości bardziej złożone niż CDO. Co się dzieje z ludzką polityką, gdy żaden wyborca, polityk i żaden prezydent nie może już zrozumieć finansów?
17. Front bitwy zmienia się z uwagi na intymność. W ciągu następnej dekady wyrafinowane sztuczna inteligencja nauczą się tworzyć intymne relacje z ludźmi. Aby to zrobić, będą musieli nas przekonać, że są świadomi, że czują miłość, ból i strach. Obecnie nie ma dowodów na to, że sztuczna inteligencja jest świadoma. Ale sztuczna inteligencja może udawać, że czuje miłość i może opisać uczucie miłości lepiej niż jakikolwiek poeta lub psycholog, który kiedykolwiek żył.
18. Dziecko urodzone w 2026 roku może spędzać więcej czasu na interakcji ze sztuczną inteligencją niż z matką, ojcem, rodzeństwem lub przyjaciółmi. Pierwszym nauczycielem tego dziecka może być sztuczna inteligencja. Pierwszym chłopakiem tego dziecka może być sztuczna inteligencja. Nikt nie ma pojęcia, jakie będą konsekwencje tego eksperymentu.
19. Każdy kraj na świecie wkrótce stanie w obliczu ogromnej fali imigracji. Imigranci nie przybędą łodziami ani nie będą przekraczać granic w nocy. Będą to miliony AI podróżujących z prędkością światła bez potrzeby wiz. Podobnie jak ludzie imigranci, przyniosą korzyści i zakłócenia. W przeciwieństwie do ludzkich imigrantów na pewno podejmą pracę, zdecydowanie zmienią kulturę i prawdopodobnie będą lojalni nie wobec żadnego kraju przyjmującego, ale wobec jakiejś korporacji lub rządu lub obcego plemienia AI za oceanem.
20. Nasza relacja z samym sobą jest również zbudowana na słowach, formacjach słownych w naszych umysłach, które stanowią nasze myśli i historie, które opowiadamy sobie o tym, kim jesteśmy. Do tej pory wszystkie te formacje słowne pochodziły z ludzkich umysłów. Wkrótce coraz więcej myśli w naszych głowach będzie wytwarzanych przez maszyny. Jeśli identyfikujemy się z naszymi myślami i te myśli są wytwarzane przez maszyny, to maszyny kontrolują naszą tożsamość.
21. Wielkie duchowe wyzwanie, jakie sztuczna inteligencja stawia przed ludzkością, jest następujące: czy ludzie mogą nauczyć się znajdować prawdę, która jest poza słowami? Większość ludzi nigdy nawet nie próbowała. Spędzamy nasze życie automatycznie identyfikując się z formacjami słownymi w naszych umysłach. Sztuczna inteligencja może teraz zmusić ludzkość do ostatecznego wykonania tego skoku, ponieważ nasza wolność i przetrwanie może zależeć od odkrycia, kim jesteśmy, poza słowami, które sztuczna inteligencja wkrótce będzie kontrolować lepiej niż my.
Poniżej jest link do pełnego tekstu wykładu:
The following is the full transcript of author Yuval Noah Harari’s lecture at Oxford, June 30, 2026. Editor's Note: In this 2026 Tanner Lecture on Human Values at Oxford, historian and author Yuval Noah Harari
singjupost.com
www.money.pl
www.bankier.pl
www.dobreprogramy.pl
select.wp.pl
