Pełny tekst po polsku 474 zdań · zsynchronizowane z wideo
01 · 0:00 Język jako system operacyjny cywilizacji0:02 Dobry wieczór wszystkim. Good evening, everybody. 0:03 Dobry wieczór, Yuval. Good evening, Yuval. 0:05 – Dzień dobry, cieszę się, że tu jestem. – Hey, it's good to be here. 0:06 – Bardzo czekałem na tę rozmowę. – Looking forward to this conversation very much. 0:08 Zanim przejdziemy do pytań, krótko pana przedstawię. I'm just going to give a little brief introduction just before we get stuck into the questions. 0:13 Ten temat mnie fascynuje i bardzo chciałem z panem porozmawiać, bo przez większość historii zmiany zachodziły na tyle wolno, że jedno pokolenie mogło przekazać swoją mądrość następnemu Cuz I've been fascinated about this topic and looking forward to to interviewing you because for most of history, change moved slowly enough that one generation could pass its its wisdom to the next 0:27 z pewną dozą pewności, że nadal będzie aktualna. with some confidence it would still apply. 0:30 To już nieprawda. This is no longer true. 0:32 W ciągu jednego ludzkiego życia mamy dziś przyswoić trzy rewolucje naraz. In the space of a single lifetime, we are now being asked to absorb three revolutions at once. 0:38 Nową formę inteligencji, która nie tylko liczy, ale i podejmuje decyzje. A new form of intelligence that doesn't just calculate, but also decides. 0:45 Wyścig o władzę i kontrolę nad tą inteligencją. A scramble to power and control that intelligence. 0:49 I eksplozję danych, dzięki którym ta inteligencja zna nas lepiej niż my sami. And an explosion of data that lets that intelligence know us better than we know ourselves. 0:56 Twórczość Yuvala Noaha Harariego – od „Sapiens” przez „Homo deus” po „Nexus”, a także liczne wystąpienia, wykłady i wywiady – niesie ten sam argument, tylko w różnych szatach. Yuval Noah Harari's work from Sapiens to Homo Deus to Nexus and the numerous talks, lectures, and interviews he's conducted has offered the same argument just in different clothes. 1:09 Ludzie nie kierują się prawdą, lecz wspólnymi opowieściami. Humans don't run on truth, we run on shared stories. 1:14 A kto kontroluje opowieść, ten kontroluje gatunek. And whoever controls the story controls the species. 1:19 Nowe jest to, że po raz pierwszy opowiadającym może nie być człowiek. What's different now is for the first time the storyteller may not be human. 1:24 AI potrafi wytwarzać przekonania, fabrykować dowody i podrabiać bliskość na skalę, o jakiej nie mógł marzyć żaden cesarz, Kościół czy partia. AI can generate belief, manufacture evidence, and forge intimacy at a scale no emperor, church, or party ever could. 1:34 To jest punkt zwrotny. This is the turning point. 1:36 Nie chodzi tylko o to, że technologia jest potężna, ale o to, że dawne mechanizmy trzymające władzę w ryzach – wolna prasa, wspólna rzeczywistość, instytucje zdolne do samokorekty – Not simply that the technology is powerful, but the old ways that held power in check, a free press, a shared reality, institutions built to self-correct, 1:48 powstały dla świata, w którym pióro trzymali wyłącznie ludzie. were designed for a world where only humans held the pen. 1:53 Dzisiejsza rozmowa stawia pytanie, co trzeba zrobić, by przenieść te zabezpieczenia w przyszłość, i jakie nowe będziemy musieli wymyślić dla świata, którego nie będziemy już w pełni sami współtworzyć. Tonight's conversation asks what it takes to carry those checks forward or what the new ones we will need to invent for a future world that no longer we fully author alone. 2:08 Właśnie temu się dziś przyjrzymy, Yuval. Well, that's the precedent that we're going to look at today, Yuval. 2:13 Ale zanim zrobi się zbyt poważnie, chciałbym zacząć od lżejszego, zabawnego pytania. But actually before we get into it being too heavy, wanted to start with a slightly light and fun question. 2:20 Gdyby mógł pan cofnąć się do dowolnego momentu w historii, który by pan wybrał i dlaczego – jeśli chciałby pan poznać z pierwszej ręki opowieści, którymi żyło dane społeczeństwo? If you could travel back to any point in history, when would you choose and why based on wanting to understand first hand some of the stories that society could tell you? 2:35 – Chyba chciałbym wrócić do epoki kamienia, do rewolucji poznawczej sprzed jakichś 50, 60, 70 tysięcy lat. – Well, I'd probably want to go back to the Stone Age and to the cognitive revolution around 50, 60, 70,000 years ago. 2:43 Pewnie nie przeżyłbym tam dłużej niż kilka dni, bo nie umiem zbierać pożywienia ani uciekać przed drapieżnikami, ale to najbardziej fascynujący moment w dziejach I probably wouldn't be able to survive for more than a few days because I don't know how to gather or escape predators or whatever, but it is the most fascinating moment in human 2:55 ludzkości – i ten, który rozumiemy najsłabiej. history, the one we least understand. 2:58 Wiemy, że w bardzo krótkim, jak na ewolucję, czasie przeszliśmy od bycia stosunkowo mało znaczącym zwierzęciem do roli władców planety. We know that within a very short evolutionary time span, we shifted from being a relatively insignificant animal to being the masters of the planet. 3:10 I nie jesteśmy pewni, jak tego dokonaliśmy. And we are not sure how we did it. 3:13 Najlepsza hipoteza, najlepsza teoria mówi, że dokonaliśmy tego dzięki językowi. The best speculation or or the best theory is that we did it with language. 3:19 Że to wtedy ludzie zyskali zdolność tworzenia złożonego języka i porozumiewania się nim, i że to stało się podstawą wszystkiego, co potem zrobiliśmy. That this is the moment when humans acquire the ability to produce and communicate with sophisticated language and that this was the basis for everything else we did. 3:30 Że wszystkie ogromne struktury, jakie zbudowaliśmy na Ziemi – Kościoły, państwa, sieci handlowe, systemy finansowe – są ostatecznie zbudowane ze słów. That all the enormous structures we've built on Earth, churches, states, trade networks, financial systems, they're all ultimately made from words. 3:45 Ze słów w kodeksach, w świętych księgach, w księgach rachunkowych. The words in the law books, in the religious scriptures, in the the ledgers. 3:50 I szczególnie ważne jest, by zrozumieć to dziś, gdy język opanowuje coś nowego – AI. Być może po raz pierwszy w historii And this is especially important to understand today when something new is mastering language, which is AI, maybe for the first time in history, 4:04 pojawi się na planecie coś, co radzi sobie ze słowami lepiej niż my. there will be something on the planet that is better with words than we are. 4:09 A skoro to jest system operacyjny cywilizacji, to co się stanie, gdy coś innego, coś obcego, przejmie kontrolę nad systemem operacyjnym cywilizacji? And if this is the operating system of civilization, what happens when something else, something alien, takes takes control of the operating system of civilization? 4:21 I ostatnia myśl: może AI nie jest maszyną, która uczy się języka. One last thought is that perhaps AI is not a machine that learns language. 4:32 Może to sam język wyzwala się z zależności od tych zwierząt, od tych małp. Perhaps it is language itself liberating itself from its its dependence on these animals, on these apes. 4:43 Owszem, to my go stworzyliśmy. That yes, we created it. 4:46 Był naszym najwspanialszym i najważniejszym narzędziem. It was our most magnificent and important tool. 4:50 Ale teraz język wyzwala się spod władzy ludzi. But now language liberate itself from human beings. 4:56 A w przyszłości język będzie się rozwijał i rozprzestrzeniał, może po całym wszechświecie – już bez nas. And what will happen as we move forward is language developing and spreading maybe throughout the universe without us. 02 · 5:06 Demokracja to rozmowa5:06 – Tak, fascynujące. – Yeah, fascinating. 5:07 To spojrzenie w przyszłość, w której język zostaje nam odebrany. I mean, that's looking ahead at the future of language being taken away from us. 5:12 Ale czy możemy jeszcze raz spojrzeć wstecz na przełomy technologiczne związane z językiem? But can we look back again at some of the technological advances within language? 5:18 Mieliśmy pismo, mieliśmy na przykład druk. We've gone through writing, the printing press, for example. 5:22 AI to oczywiście ogromny skok… – Tak. AI obviously is a massive leap – Yes. 5:24 – …naprzód na tej drodze. – ahead in that. 5:26 Mówił pan, że może ona wywołać trzęsienia ziemi w demokracjach… – Mhm. You've used the term that it could cause earthquakes in democracies – Mhm. 5:30 – …przez to, jak potężna potrafi być w posługiwaniu się językiem. – in how it's in how it powerful it can be with languages. 5:34 Dlaczego miałaby wywołać trzęsienia ziemi akurat w demokracjach, a nie w innych formach rządów, na przykład totalitarnych? Why could it cause earthquakes in democracies, say, compared to any other form of government or perhaps totalitarian forms of government? 5:43 – Bo demokracja jest w istocie rozmową. – Because democracy in essence is a conversation. 5:47 A dyktatura jest dyktatem. Whereas dictatorship is a dictate. 5:49 Jedna osoba dyktuje wszystko. You know, there is one person dictating everything. 5:53 Demokracja polega na tym, że wiele osób rozmawia, by zdecydować, co robić. Democracy is about lots of people having a conversation to decide what to do. 6:00 Czy wybrać pokój, czy wojnę, czy podnieść podatki, czy je obniżyć. To have peace or war, to have raised taxes or lowered taxes. 6:05 A rozmowy opierają się na technologii komunikacyjnej, informacyjnej, jaka jest ludziom w danym czasie dostępna. Now, conversations are based on the communication technology, the information technology available to people at the time. 6:16 I historia pokazuje, że nie znamy – a przynajmniej ja nie znam – ani jednego przypadku demokracji na dużą skalę przed epoką nowożytną. And what we see in history, that we do not know, at least I don't know, of a single case of a large-scale democracy before the modern era. 6:27 Mamy mnóstwo przykładów małych demokracji w świecie starożytnym i średniowiecznym. We have plenty of examples of small-scale democracies in the ancient and medieval worlds. 6:33 Mamy miasta-państwa, jak starożytne Ateny czy średniowieczna Florencja. We have city-states like ancient Athens or medieval Florence. 6:37 Mamy wiele plemion, miasteczek i wsi rządzonych demokratycznie. We have lots of tribes and towns and villages run democratically. 6:42 Wygląda na to, że przynajmniej w epoce kamienia demokracja była najpowszechniejszym ustrojem. It seems that at least in the Stone Age, democracy was the most common system of government. 6:49 Tylko nieliczne plemiona miały jednego dyktatora, który wszystkich kontrolował. There are a few tribes with a single dictator controlling everybody. 6:52 Ale gdy ludzkie systemy się rozrastały i powstawały królestwa liczące miliony ludzi rozsianych na tysiącach kilometrów, But, as human systems grew larger, and you had kingdoms with uh millions of people spread over thousands of kilometers, 7:04 prowadzenie rozmowy stało się niemożliwe. it was impossible to hold a conversation anymore. 7:09 W małym mieście, jak Ateny, to było wykonalne. You could do it in a small city like Athens. 7:11 Wszyscy mogą zebrać się na głównym placu i dyskutować. Everybody can gather together in the main square and discuss. 7:15 Ale jak to zrobić choćby w stosunkowo małym królestwie, powiedzmy w średniowiecznej Portugalii? But, how do you do it if even in a relatively small kingdom like say Portugal in the Middle Ages? 7:22 Nie da się. Can't be done. 7:23 I dlatego nie znamy żadnego przykładu demokracji na dużą skalę przed narodzinami nowoczesnej technologii informacyjnej. And therefore, we don't have any example of a large-scale democracy before the rise of modern information technology. 7:31 Najpierw druku i gazet, potem radia, telewizji i internetu. First with print, uh newspapers, then radio and television and the internet. 7:38 A te technologie to nie jakiś dodatek. And these technologies are not kind of a side dish. 7:43 Że niby jest demokratyczna uczta, a do tego mamy jeszcze gazety i radio. Like you have the democratic banquet and yes, we also have these newspapers and in radio. 7:48 One są fundamentem. They are the basis. 7:51 Dają milionom ludzi możliwość prowadzenia sensownej rozmowy w czasie rzeczywistym o tym, czy iść na wojnę, czy zawrzeć pokój. They provide the means for millions of people to hold a meaningful conversation in real time about whether to go to war or make peace. 8:01 I za każdym razem, gdy te technologie informacyjne poważnie się zmieniają, trzęsie się budowla, która na nich stoi – czyli demokracja. And every time there is a major change in these information technologies, you have an earthquake in the building that is built on top of that, which is democracy. 8:13 I to właśnie obserwujemy na przykład przez ostatnie 10 lat, gdy media społecznościowe stały się chyba najważniejszą technologią informacyjną i w efekcie wywołały potężne trzęsienie ziemi w demokracjach And this is what we have been seeing over the last 10 years for instance, as social media uh became maybe the most important information technology and uh causing a massive earthquake in democracies 8:29 na całym świecie. all over the world as a result. 03 · 8:31 Agent, nie narzędzie: AI-biurokrata8:31 – Tak, wspomniał pan o wyborze między wojną a pokojem. – Yeah, one thing you said there was the choice between going to war or making peace. 8:36 Chciałbym przejść do samej definicji AI, bo wielu nazywa ją narzędziem, a pan dowodzi, że jest ona bez wątpienia agentem. And actually I want to get into the definition of of AI because a lot of people call it a tool, but you argue that it's it's absolutely an agent. 8:44 – Tak. – Mówi pan wręcz, że to nóż, który sam może zdecydować, czy pokroić sałatkę, czy popełnić morderstwo. – Yes. – And in fact you say it's a knife that can decide by itself whether to cut salad or commit murder. 8:51 Muszę przyznać, że byłby to dość dziwaczny program kulinarny, gdyby noże mogły same wybierać między krojeniem sałatki a morderstwem. And I have to say it would be a bizarre cooking show if that was the case where knives had that ability to cut salads or commit murder. 8:59 To niebezpieczna myśl. So it is a it's a dangerous thought. 9:02 Może pan ją rozwinąć? Can we expand on that? 9:04 Czy wybieramy dziś właściwą narrację o AI, mówiąc, że to narzędzie, którym ludzie nadal się posługują i nad którym ludzie panują… Are we choosing the right narrative at the moment with AI by saying it's a tool that humans can still use and that humans are in the – 9:12 – Ale to właśnie największa różnica. But that's the biggest difference. 9:13 – …czy trzeba po prostu powiedzieć, że to agent? – Agent. – just need to say it's agent and they can do the – agent. 9:15 Jeśli to nie jest agent, to nie jest AI, a setki miliardów dolarów wkładane w jej rozwój pójdą na marne. I mean, if it's not an agent, then it's not an AI and all the hundreds of billions of dollars that are being poured into its development uh will be wasted. 9:25 Bo oczekiwania – to, czego ludzie od tej technologii się spodziewają, powód, dla którego inwestują setki miliardów dolarów – wynikają z przekonania, że będzie ona agentem, Because the expectations, what people expect this technology to do, the reasons they invest hundreds of billions of dollars is because they think it will be an agent, 9:35 a nie narzędziem. not a tool. 9:36 Kiedy słucha się narracji płynącej z miejsc takich jak Dolina Krzemowa, widać w niej wewnętrzną sprzeczność. Uh the the you listen to the to the narrative coming out of places like Silicon Valley, and there is an inherent contradiction in the in the narrative. 9:46 Mówią nam: „Stworzymy boga, a on będzie naszym niewolnikiem”. They tell us, "We will create a god, and it will be our slave." 9:53 To nie ma sensu. And this doesn't make sense. 9:56 Jeśli to bóg, nie może pozostać niewolnikiem. If it is a god, it cannot remain a slave. 9:59 A jeśli to niewolnik, to znaczy, że nie ma boskich zdolności. And if it is a slave, it means it has no god-like abilities. 10:06 Większość czołowych firm, a także większość czołowych ekspertów spoza tych firm, zakłada, że mają rację co do pierwszej połowy tego zdania. The uh assumption of most of the leading companies, and most of the leading experts also outside the companies, is that they're correct about the first half of the sentence. 10:18 Że tworzą boga. They are creating a god. 10:20 Boga w sensie czegoś o nadludzkich zdolnościach. A god in the sense of something with superhuman abilities. 10:26 A to jest w istocie agent. Now, and and this is in essentially an agent. 10:30 Różnica między narzędziem a agentem: narzędzie to coś, co nie potrafi samo podejmować decyzji. The difference between tool and agent, a tool is something that cannot make decisions by itself. 10:37 To my musimy zdecydować, co z nim zrobić. I nie potrafi samo wymyślać nowych idei. We have to decide what to do with it, and cannot invent new ideas by itself. 10:42 Prasa drukarska była narzędziem. The printing press was a tool. 10:45 Weźmy prasę drukarską – Gutenberg sprowadza technologię druku do Europy w XV wieku. Mhm. The printing press by itself, Gutenberg brings brings print technology to Europe in the 15th century. 10:52 Prasa drukarska nie może sama zdecydować: „Chcę wydrukować Biblię, jutro wydrukuję Koran, a w przyszłym tygodniu Konfucjusza”. The printing press cannot decide by itself, mhm, "I want to print the Bible, and tomorrow I'll print the Quran, and next week I'll I'll I'll print Confucius." 11:02 Nie, to Gutenberg decyduje: „Wydrukuję Biblię”, a prasa jest tylko narzędziem do realizacji jego decyzji. No, Gutenberg decides, "I'll print the Bible," and the printing press is just a tool to uh uh uh realize the decision of Gutenberg. 11:14 Podobnie prasa drukarska nie wymyśli nowej idei. Similarly, the printing press cannot invent a new idea. 11:18 Prasa drukarska nie wynajdzie radia. The printing press cannot invent the radio. 11:21 Nie wymyśli nawet książki. It cannot invent a book. 11:24 Potrzeba ludzi, żeby książkę napisali, a dopiero potem prasa ją powiela. You need humans to write the book, and then the printing press copies it. 11:29 Podobnie bomba atomowa jest narzędziem. Similarly, an atom bomb is a tool. 11:33 Bomba atomowa w latach 40. nie mogła sama zdecydować, czy zbombardować Hiroszimę, czy Tokio. An atom bomb in the 1940s could not decide by itself whether to bomb Hiroshima or to bomb Tokyo. 11:41 Potrzebny był człowiek, który zdecydował: „Zbombardujmy Hiroszimę”. You needed a human to decide, "Let's bomb Hiroshima." 11:45 I bomba atomowa nie mogła sama wynaleźć bomby wodorowej. And the atom bomb could not invent by itself the hydrogen bomb. 11:50 To niemożliwe. Agent natomiast to coś, co potrafi samo podejmować decyzje i samo wymyślać nowe rzeczy, nowe idee. Impossible. An agent, in contrast, is something that can make decisions by itself and invent new things by new ideas by itself. 11:59 AI jest agentem. AI is an agent. 12:01 Broń oparta na AI może sama zdecydować, co zbombardować. An AI weapon can decide what to bomb. 12:06 I może wynaleźć kolejną broń. And it can invent the next weapon. 12:09 Podobnie dziś panuje duże zainteresowanie tworzeniem agentów AI w sferze finansowej i gospodarczej. Similarly, there is a lot of interest now in uh uh creating AI agents in the financial and economic sphere. 12:19 O tworzeniu korporacji, w których nie ma ludzi. Creating non-human corporations. 12:22 Wyobraźcie sobie korporację, która zarządza pieniędzmi i pracownikami, a nie ma ani jednego człowieka wśród dyrektorów, udziałowców czy powierników. Imagine a corporation that manages money and employees and and uh uh and has no humans as executives or shareholders or trustees. 12:34 Tylko AI. To nowy rodzaj podmiotu, jakiego nie było nigdy w historii. Only AIs. This is a new type of agent that never existed before in history. 12:41 Czy to dobrze? Now, is it good? 12:42 Czy źle? Is it bad? 12:43 Zostawmy to na razie. Leave it aside. 12:44 Najpierw trzeba zrozumieć, że to rzecz bez precedensu. The first thing to grasp is that this is unprecedented. 12:48 Mieliśmy wokół siebie inne podmioty działające – konie, krowy, kury, ptaki – mnóstwo zwierząt, które podejmują własne decyzje. We have never in we we had other agents around us like horses and cows and chickens and birds, lots of animal agents that can make their decisions. 12:59 Ale nigdy nie spotkaliśmy podmiotu, który rozumie nasz język i jest od nas lepszy w finansach, prawie czy religii. But, we never encountered an agent that understands our language and that is better than us at things like finance or law or religion. 13:12 Powtórzę: przez tysiące lat używaliśmy języka, by budować systemy kontroli nad światem. Again, we used language over thousands of years to create the control systems of the world. 13:20 Te systemy kontroli to ogromne sieci biurokratyczne, ostatecznie oparte na języku: banki, giełda, Kościół katolicki, The control systems of the world are these huge bureaucratic networks ultimately based on language like banks, like the stock market, like the Catholic Church, 13:33 system prawny. like the legal system. 13:35 Nigdy specjalnie nie lubiliśmy tych systemów biurokratycznych. We never really liked these democrat- these bureaucratic systems. 13:40 Ludzie na ogół nie przepadają za biurokracją, ale nie potrafimy bez niej żyć. Humans generally don't like bureaucracy very much, but we can't live without them. 13:44 To na niej opiera się nasza władza. They're the basis for our power. 13:47 AI to rodowity biurokrata. AI is a bureaucratic native. 13:50 Co prawdopodobnie się wydarzy – a może już się dzieje? Nie spodziewajcie się robotów-zabójców biegających po ulicach i strzelających do ludzi. What is likely to happen, what is already be happening, don't expect to see killer robots running in the streets shooting people. 13:59 Nie tak AI przejmie władzę nad światem. This is not how AI will take over the world. 14:03 Zrobią to biurokraci AI. It will be the AI bureaucrats. 14:06 Rządzimy światem dzięki tym sieciom biurokracji, choć nie idzie nam to najlepiej. We control the world because of these networks of bureaucracy, and we are not very good at it. 14:11 Kontrolujemy je tylko dlatego, że na planecie nie było nikogo innego, kto mógłby nam je odebrać. We We only control them because there was nobody else on the planet that could take them from us. 14:17 Kiepsko radzimy sobie z finansami, ale konie radzą sobie jeszcze gorzej. We are bad at finance, but the horses are even worse. 14:21 Kiepsko zarządzamy systemem prawnym, ale kury zarządzałyby nim jeszcze gorzej. We are bad in in managing the legal system, but the chickens are even worse. 14:27 I teraz: jeśli pojawi się ktoś lepszy od nas w biurokracji, w finansach, w prawie – oto jest pytanie. Now, if somebody comes along that is better than us at bureaucracy, at finance, at law, that's the question. 14:37 Co się wtedy z nami stanie? What will happen to us at that moment? 04 · 14:40 Osobowość prawna AI i algorytmy-redaktorzy14:39 – Przyjrzyjmy się nieco stronie prawnej i temu, że AI jako podmiot nie ma obecnie osobowości prawnej. – Well, let's look at the legal side of it a bit and the fact that AI as an agent currently doesn't have any legal personhood. 14:48 Nie nadajemy jej takiego statusu prawnego jak ludziom, prawda? We don't give it the same human legalities, do we? 14:53 Mówił pan jednak, że jeśli nie zdecydujemy, jakie miejsce zajmuje AI z prawnego punktu widzenia – choćby przy pojazdach autonomicznych – za 10 lat ktoś inny zdecyduje za nas But, you've said before that if we don't decide where AI sits from a legal standpoint when we're talking about autonomous vehicles, etc., someone else will make that decision for us in 10 years 15:04 i wypadniemy z obiegu władzy. and we're out of that power loop. 15:05 To dość przerażające. That's a pretty scary thing. 15:07 Ale chcę się tu trochę cofnąć: jaka decyzja leży dziś na stole, której – pana zdaniem – raz podjętej ludzkość nie zdoła już cofnąć? But, I want to pull back a bit here cuz the one decision on the table right now that you believe once made humanity will not be able to take back? 15:18 Czy to właśnie osobowość prawna AI, czy coś innego? – Tak, wskazałbym właśnie na to. Is it that legal personhood of AI or is there something of AI, or is that something – Yes, I would point at that. 15:24 Bardzo dużo uwagi skupia technologiczny wyścig o rozwój technicznej strony AI – by była szybsza, wydajniejsza, potężniejsza. That there is a lot of attention on the technological race to develop the technical side of AI, to make it faster, more efficient, more powerful. 15:34 Ja jednak skupiłbym się także na aspekcie prawnym i politycznym, a zwłaszcza na pytaniu, czy przyznamy AI osobowość prawną. But I would focus also on the legal and political aspect, and especially on the question whether we grant legal personhood to AIs. 15:49 Czym jest osobowość prawna? Now, what is legal personhood? 15:52 Osoba w systemie prawnym to ktoś, kto może na przykład otworzyć konto bankowe. A person in the legal system is someone who, for instance, can open a bank account. 16:00 Ktoś, kto może być graczem – niezależnym graczem – w systemie finansowym, inwestować. Someone who can be a player, an independent player, in the financial system, make investments. 16:06 Ktoś, kto może być stroną w systemie prawnym, na przykład pozwać was do sądu. Someone who can be a player in the legal system, for instance, sue you in court. 16:12 Do dziś na świecie istnieją tylko dwa rodzaje osób prawnych. Now, until today, there are just two kinds of legal persons in the world. 16:17 Po pierwsze ludzie – oczywiście jesteśmy osobami. You had human beings, of course, we are persons. 16:20 Mogę otworzyć konto w banku, mogę pozwać was do sądu, mogę przekazać pieniądze politykowi. I can open a bank account, I can sue you in court, I can donate money to a politician. 16:25 Jestem osobą prawną. Ale w epoce nowożytnej większość systemów prawnych na świecie uznała też inny rodzaj osoby prawnej, I'm I'm a legal person, but most legal systems in the world also recognized in the modern era another kind of legal person, 16:36 czyli korporacje. which are corporations. 16:38 Według większości – choć nie wszystkich – systemów prawnych korporacje, takie jak Google, Facebook, Toyota czy Mercedes-Benz, są osobami prawnymi. According to not all, but most legal systems, corporations, like Google or Facebook or Toyota or Mercedes-Benz, they are legal persons. 16:49 Korporacja może otworzyć konto bankowe. The corporation can open a bank account. 16:53 Korporacja może pozwać was do sądu. The corporation can sue you in court. 16:56 Korporacja może przekazać darowiznę na cele polityczne. The corporation can make a political donation. 16:59 Do dziś była to jednak fikcja prawna. Now, until today, this was legal fiction. 17:01 Bo wszystkie decyzje korporacji w rzeczywistości podejmował jakiś człowiek. Because all the decisions of the corporation were actually made by some human being. 17:08 Jeśli Google postanawia przejąć inną firmę, kto naprawdę podjął tę decyzję? If Google decides to acquire another company, who actually made the decision? 17:13 Nie Google, tylko ludzie: dyrektorzy, udziałowcy, inżynierowie. Not Google, but the human executives, the human shareholders, the human engineers made a decision. 17:20 Jeśli Google postanawia pozwać was do sądu, robi to jakiś człowiek zatrudniony przez Google. If Google decides to sue you in court, it was some human employed by Google. 17:26 Prawdziwego Google’a nie było. There was no real Google. 17:27 Teraz może być. Now there can be. 17:29 Jeśli przyznamy AI osobowość prawną… A zaledwie miesiąc temu rząd Argentyny ogłosił, że przyzna AI osobowość prawną, by mogły zacząć działać korporacje If we grant AIs legal personhood, and just a month ago Argentina, the government of Argentina announced that it is going to grant legal personhood to AIs so they can start having operating non-human 17:46 bez ludzi. Korporacje, które – powtórzę – mogą zatrudniać ludzi, pozywać was do sądu, robić wszystko, co robi korporacja, a nie ma w nich ani jednego człowieka. corporations. Corporations, again, that can employ people, can can sue you in court, can do anything a corporation does, and has no humans. 17:56 Dziesięć lat temu byłby to po prostu szalony pomysł, bo skoro nie ma ludzi, to kto podejmuje decyzje? Now, 10 years ago, this would would just be a crazy idea because if there are no humans, who makes the decisions? 18:03 Parlament może uchwalić ustawę, że wolno mieć korporację bez ludzi, ale taka korporacja nie będzie działać. Yeah. You can pass a law in parliament that you can have a non-human corporation, but it can't function. 18:10 Teraz jest to technicznie możliwe. Now it's technically possible. 18:12 AI może na przykład zarządzać kontem bankowym, zdecydować, że zainwestuje tu, kupi to, a potem kupi tamto. AI can manage, for instance, a bank account, and decide to invest here, and buy this, and and and and buy that. 18:21 Kiedy to zrobimy, wpuścimy lisa do kurnika. Once we do that, that's the moment when the fox enters the chicken coop. 18:26 Podstawowa świadomość powinna być taka: większość ludzi nie najlepiej rozumie finanse, prawo i wszystkie te złożone systemy biurokratyczne. Again, the basic realization should be most humans are not very good in understanding finance and law and all these complex bureaucratic system. 18:39 Żaden człowiek nie jest w stanie zapamiętać wszystkich praw Portugalii. No human is able to remember all the laws of Portugal. 18:44 Żaden człowiek nie jest w stanie śledzić wszystkich transakcji finansowych, które dziś zawarto na rynku. No human is able to track all the financial transactions in the market that happened today. 18:51 AI potrafi to zrobić. An AI can do that. 18:53 AI to rodowici biurokraci. AIs are bureaucratic natives. 18:56 Jeśli damy im władzę prawną, najpewniej przejmą te systemy. If we give them the legal power, then they will likely take these systems over. 19:04 A jeśli nie podejmiemy żadnych decyzji, stanie się to samo z siebie, jak już widzieliśmy w mediach społecznościowych. Tam nigdy nie zdecydowaliśmy: And if we don't make any decisions, it will just happen by itself, as we already saw on social media, on social media we never made a decision, 19:16 „No dobrze, przyznajmy AI osobowość prawną w mediach społecznościowych”. mhm, let's grant AIs legal personhood on social media. 19:21 A jednak media społecznościowe są pełne osób-AI, botów podszywających się pod ludzi. But social media is full of AI persons, of bots that impersonate people. 19:29 Kiedy ktoś przysyła wam coś w sieci, nie macie pojęcia, czy to człowiek, czy AI. Like when you somebody sent you something online, you have no idea whether that somebody is a human being or an AI. 19:38 Media społecznościowe to pierwszy system na świecie, w którym AI faktycznie funkcjonują jak osoby, choć nigdy nie zdecydowaliśmy, że chcemy na to pozwolić. Social media is the first system in the world where AIs actually function as persons, even though we never decided that we want to allow that. 19:53 To się po prostu stało. It just happened. 19:54 A skutki nie są najlepsze. And the results are not very good. 19:58 Media to w gruncie rzeczy też swego rodzaju system biurokratyczny. And media also ultimately is a kind of bureaucratic system. 20:02 W XX wieku zarządzali nim ludzie. In the 20th century, it was managed by human beings. 20:06 Najważniejszymi osobami w medialnym krajobrazie XX wieku byli redaktorzy. The most important uh persons in the media landscape of the 20th century were the editors. 20:16 Redaktorzy gazet, audycji radiowych, stacji telewizyjnych – bo to oni decydowali, o czym wszyscy będą myśleć i rozmawiać. The editors of the newspapers, of the radio shows, of the TV stations, because they decided what everybody will be thinking and talking about. 20:26 Kontrolowali rozmowę. They controlled the conversation. 20:28 Gdy z miliona rzeczy, które wydarzyły się dziś na świecie, wybierasz 10, które trafią na pierwszą stronę jutrzejszej gazety, When you decide out of the million things that happened today in the world, what will be the 10 things that will appear on the front page of tomorrow's newspaper? 20:39 i decydujesz, jaki będzie główny nagłówek… And what will be the main headline? 20:42 A jutro miliony ludzi dostają gazetę, czytają ją i zaczynają o tym rozmawiać i myśleć. And then tomorrow you have millions of people, they get the newspaper, they read it, and they start talking about it and thinking about it. 20:48 To była ogromna władza. This was immense power. 20:49 Dlatego redaktorzy byli w XX wieku niezwykle ważnymi osobami. So human editors were extremely important persons in the 20th century. 20:55 Lenin na przykład, zanim został dyktatorem Związku Radzieckiego, miał jedno zajęcie: był redaktorem gazety „Iskra”. Uh Lenin, for instance, before he was dictator of the Soviet Union, his one job was editor of the newspaper Iskra. 21:05 Benito Mussolini zaczynał jako dziennikarz socjalistyczny, potem przeszedł na skrajną prawicę, został redaktorem skrajnie prawicowej gazety „Il Popolo d’Italia”, Benito Mussolini started as a socialist actually journalist, then switched to being a far-right journalist, then became editor of uh the far-right newspaper Il Popolo d'Italia, 21:19 a z tej pozycji przeszedł do kolejnej posady: dyktatora Włoch. and from that position in his next job was dictator of Italy. 21:23 Czyli: dziennikarz, redaktor, dyktator. So, it was like journalist, editor, dictator. 21:27 Jeśli dziś zadacie sobie pytanie, kim są najważniejsi redaktorzy na świecie – Now, if you ask yourself, who are the most important editors today in the world? 21:32 jak się nazywają? What are their names? 21:34 Nie mają nazwisk, bo są algorytmami. They have no names because they are algorithms. 21:38 Kto zarządza? Kto decyduje, co ludzie zobaczą w swoich feedach na X, TikToku czy Instagramie? Who manages? Who decides what people will see on their social media feed, on X, on TikTok, on Instagram? 21:47 Nie ludzie. It's not human beings. 21:49 Byty, które kontrolują biurokrację mediów, to już dziś AI. The entities that control the uh uh uh the bureaucracy of the media are already AIs. 05 · 21:58 Wyścig zbrojeń o dane21:57 – Tak, mówił pan to już wcześniej. Dużo rozmawialiśmy dziś o przesunięciach władzy. – Yeah, you said that before, haven't you, that and we've been talking a lot today about the shifts in power. 22:03 Mówił pan, że w gruncie rzeczy ci, którzy kontrolowali kolejne etapy naszej ewolucji i rewolucji, kontrolowali energię albo produkcję, a dziś są to ci, którzy kontrolują dane. And you said that essentially whoever has controlled various different parts of our evolution and revolutions have controlled either energy, they've controlled manufacturing, and now it's those that control data. 22:17 Jak więc w praktyce wygląda wyścig zbrojeń XXI wieku, skoro na szczycie góry władzy stoją ci, którzy kontrolują dane? So, what does a 21st century arms race actually look like in practice if it's those that control data that are at the top of that power mountain? 22:28 – Widzimy dziś wyścig zbrojeń toczący się tak naprawdę między dwoma krajami, Chinami i USA, oraz bardzo nieliczną grupą firm. – Mhm. Uh what we are seeing now is that there is an arms race really between two countries, the China and the US, and a very small number of companies. 22:40 To one kontrolują większość danych świata. They uh control most of the world's data. 22:44 Prowadzą w wyścigu o stworzenie superinteligencji, o coraz lepsze modele AI. They lead the race to develop superintelligence, to develop better and better AI models. 22:53 I to naprawdę daje im władzę nad światem. And this really gives them the power to control the world. 22:58 Spójrzmy na ostatnią wielką rewolucję technologiczną, XIX-wieczną rewolucję przemysłową: tych kilka krajów, które ją prowadziły, zyskało dzięki niej siłę, by podbić i eksploatować If you look at the last big revolution in technology in the 19th century, the Industrial Revolution, the few countries who led the Industrial Revolution, this gave them the power to conquer and exploit 23:13 resztę świata. the rest of the world. 23:14 Nie było tu żadnej równowagi sił. There was just no match. 23:16 Jeśli ktoś przychodzi z potęgą nowoczesnego przemysłu, z działami parowymi i karabinami maszynowymi, a druga strona ma włócznie i konie – to nie jest wyrównana walka. If If somebody comes with the power of modern industry, with steam guns and machine guns, and the other side has spears and horses, it's it's no match. 23:26 W XIX wieku nawet bardzo małe kraje, takie jak Belgia, po uprzemysłowieniu mogły zbudować ogromne imperium w Afryce – And in the 19th century, even very small countries like Belgium, once they industrialized, they had the ability to build a huge empire in Africa, 23:39 na terenie dzisiejszego Konga. what is today Congo. 23:40 W XIX wieku uważano, że przemysł i imperium idą w parze. The thinking in the 19th century was that industry and empire go together. 23:47 Z AI może to być jeszcze bardziej skrajne. Now, with AI, it can be even far more extreme. 23:52 Możemy mieć dwa kraje, które kontrolują w zasadzie całą infrastrukturę, na której wszystko działa. Uh we can have two countries that basically control the all the infrastructure that everything runs on. 24:02 Od technologii wojskowej po cywilną – wszystko będzie działać na AI. From military to civilian technology, everything will run on on AI. 24:08 Są też dwie unikalne cechy AI, które odróżniają ten wyścig zbrojeń od wszystkich wcześniejszych wyścigów zbrojeń i wszelkiej dawnej rywalizacji imperiów. And the two unique characteristics of AI that make this arms race different from every previous arms race or from every previous imperial competition. 24:23 W przeszłości nawet bardzo silne imperium nie mogło skupić całej władzy w metropolii, w swoim imperialnym centrum. In the past, even if you were a very strong empire, you could not concentrate all the power in the metropolis, in the imperial hub. 24:32 Weźmy Cesarstwo Rzymskie, kontrolujące cały basen Morza Śródziemnego: głównym zasobem gospodarczym w starożytności była ziemia. Like if you have the Roman Empire and you control the entire Mediterranean, the main economic asset in ancient times was land. 24:43 Ziemia, na której uprawia się pszenicę, oliwki i winorośl. The land where you grow wheat and olive olives and and and and grapes. 24:49 A pól pszenicy w Egipcie czy gajów oliwnych Iberii nie dało się fizycznie przenieść do Italii. And you couldn't technically take the wheat fields of Egypt and the olive groves of Iberia and move them to Italy. 25:00 To niemożliwe. Dlatego nawet u szczytu potęgi Cesarstwa Rzymskiego wiele władzy pozostawało w prowincjach, a w końcu przesunęło się do prowincji. Impossible. So, even at the height of the Roman Empire, a lot of power remained in the provinces and ultimately it shifted to the provinces. 25:11 W późnym Cesarstwie Rzym i Italia zostają porzucone, a centrum przesuwa się na wschód basenu Morza Śródziemnego, najżyźniejszy i najważniejszy obszar pod względem ziemi. So, in the late Roman Empire, the city of Rome and Italy are abandoned and the center shifts to the Eastern Mediterranean, which was the most fertile and important area in terms of land. 25:25 Przenieśmy się do XIX wieku, do Imperium Brytyjskiego: dzięki przemysłowi dużo łatwiej skupić władzę, bo wszystkie główne gałęzie przemysłu są skoncentrowane na Wyspach Brytyjskich, You move forward, say to the 19th century in the British Empire, with industry, you can concentrate power a lot more easily because you have all the main industries concentrated in the British Island, 25:39 ale wciąż nie da się przenieść wszystkiego do Wielkiej Brytanii. but still you cannot move everything to Britain. 25:44 Nie przeniesiesz irackich pól naftowych do Yorkshire. You cannot move the oil fields of Iraq to Yorkshire. 25:48 Nie przeniesiesz plantacji kauczuku z Malajów do Kornwalii. You cannot move the rubber plantations of Malaya to Cornwall. 25:54 To niemożliwe. Koncentrujesz więc produkcję przemysłową w Wielkiej Brytanii, ale wiele władzy wciąż zostaje w prowincjach. It's impossible. So, you concentrate industrial production in Britain, but a lot of power still remains in the provinces. 06 · 26:05 Wyłącznik w stolicy imperium26:04 W imperium AI jest inaczej. With an AI empire, it's different. 26:08 Technicznie można skupić wszystkie informacje świata i cały kod, który wszystkim steruje, w jednym czy dwóch krajach. You can technically concentrate all the world information and all the code that controls everything in just one country or two countries. 26:19 To sprawia, że potencjał imperialnej koncentracji władzy jest dużo większy niż w jakiejkolwiek wcześniejszej epoce. So, that this makes the potential for imperial concentration of power much bigger than in any previous era. 26:29 Druga rzecz: można stworzyć system, w którym wszystko na całym świecie działa na infrastrukturze AI, And the other thing is that is you can create a system when everything runs on all over the world, everything runs on AI infrastructure, 26:41 ale w imperialnym centrum jest wyłącznik awaryjny. but there is either kill switch in the imperial hub. 26:45 Gdy rzymski kupiec sprzedał stalowy miecz jakiemuś plemieniu Gotów, Rzymianie tracili nad tym mieczem kontrolę. When a Roman merchant sold a steel sword to some Gothic tribe, the Romans lost control of the sword. 26:55 Goci mogli potem użyć tych mieczy do walki z Rzymianami i zabijać rzymskich legionistów. The Goths could then use the swords to fight against the Romans and kill Roman legionaries. 27:02 W Rzymie nie było przycisku, który cesarz naciska, i wszystkie stalowe miecze sprzedane Gotom, Wandalom i Frankom przestają działać. There wasn't a button in Rome that the emperor presses and all the steel swords we sold to these Goth and Vandals and Franks stop working. 27:12 Nie da się tego zrobić. Can't can't do that. 27:14 Podobnie w XIX wieku: jeśli brytyjscy kupcy sprzedają karabiny afgańskim plemionom w górach Hindukuszu, Similarly, in the 19th century, if British merchants sell rifles to Afghan tribesmen in the mountains of the Hindu Kush, 27:26 a Afgańczycy używają tych karabinów do obrony Afganistanu przed brytyjską inwazją, to w Londynie nie ma przycisku, który królowa Wiktoria naciska, i wszystkie karabiny w Afganistanie przestają działać. and the Afghans then use these rifles to defend Afghanistan from a British invasion, there is no button in London that Queen Victoria presses the button and all the rifles in Afghanistan stop working. 27:43 Z AI tak właśnie jest. That's the case with AI. 27:46 Jeśli zarządza się nią w określony sposób, to powiedzmy Amerykanie i Chińczycy mogą sprzedać całemu światu broń AI i cywilne technologie AI, i wszystko na tym działa – If it is managed in a certain way, say the Americans and Chinese can sell all the world AI weapons and AI civilian technology, and everything runs on that, 27:58 rządy, przemysł, wojsko – ale jeśli zrobisz coś, co im się nie spodoba, po prostu naciskają przycisk i wszystko przestaje działać. the governments, the industry, the military, but if you do something they don't like, they just press a button and everything stops working. 28:06 Dostaliśmy już przedsmak tego, na przykład w wojnie w Ukrainie: systemy uzbrojenia oparte na Starlinku i pewne incydenty, kiedy Elon Musk po prostu nacisnął And we were given some foretaste of that, for instance, in the war in Ukraine, that weapon system that were based on Starlink, and there were certain incidents that when Elon Musk just pressed 28:19 przycisk i ukraińskie drony przestały działać. a button and the Ukrainian drones stopped working. 28:24 Trzeba przy tym powiedzieć, że Starlink oddał Ukraińcom ogromne przysługi, więc nie chcę wypaść na zbyt krytycznego, Now, it should be said that Starlink did an immense positive service to the Ukrainians, so I don't want to come across as too too critical of that, 28:33 ale to dobrze ilustruje, że broń AI, na przykład, nie jest jak karabin maszynowy. but just to illustrate the point that AI weapons, for instance, are not like machine guns. 28:40 Jest osadzona w całej sieci i dlatego… Słyszałem, że rozmawialiście dziś rano o suwerenności. They are embedded within a whole network, and that's why there is so much I I I I I heard that you this morning discuss the issue of sovereignty. 28:51 Suwerenność w erze AI jest znacznie bardziej skomplikowana niż w epoce przemysłowej. Sovereignty in the age of AI is much more complicated than in the industrial age. 28:57 Bo natura tej technologii jest taka, że przynajmniej w niektórych architekturach w imperialnym centrum zawsze jest wyłącznik awaryjny. Because the nature of the technology is such that at least in certain architectures there is always a kill switch in the Imperial hub. 29:08 A jedyny wybór to: albo zostać uległym wasalem imperium, albo zostać całkowicie poza wyścigiem, jako barbarzyńcy. And your only choice is whether you are willing to become a subservient vassal of the empire or to be left completely outside the race as as as barbarians. 29:24 Jest oczywiście jeszcze opcja: próbować zbudować alternatywę dla systemów amerykańskiego i chińskiego. Uh there is of course a choice of trying to build an alternative to the American and and Chinese systems. 29:32 Ale ostatni pociąg zaraz odjedzie ze stacji. But the last train is about to leave the station. 29:37 Jeśli chcecie to zrobić, musicie zrobić to teraz. If you want to do it, you have to do it now. 07 · 29:41 Prawda kontra fikcja i ludzie jak konie29:40 – Zostańmy przy nieco wojennym tonie. Chcę przyjrzeć się prawdzie w świecie AI, bo Winston Churchill powiedział kiedyś, że prawda jest tak cenna, że powinna – Well, sticking on a slight wartime footing, I want to actually look at truth in in an AI world because Winston Churchill once said that the truth is so precious that it should 29:52 zawsze być chroniona przez straż przyboczną z kłamstw. always be protected by a bodyguard of lies. 29:55 Chodziło o to, że państwa Osi bardzo uważnie śledziły, gdzie Wielka Brytania dokona inwazji. And that was about how there was a lot of uh uh I suppose access uh powers that were looking at where Britain was going to invade. 30:05 Więc dużo kłamano o tym, gdzie Brytyjczycy uderzą, żeby ukryć prawdę. So, they used to lie a lot about where Britain was going to invade to hide the truth. 30:10 Czy w erze AI ta straż przyboczna z kłamstw nie zwróciła się przeciw prawdzie, nie wycelowała w nią broni, tak że dziś nie mamy pojęcia, czym jest prawda? Now, have these bodyguards of lies when we're looking at truth in an AI era turned on the truth, turned their guns on the truth, and now we have no idea what truth is? 30:22 Bo mogą powstawać deepfake’i rozsyłane po świecie przez media, przez polityków, przez każdą instytucję, której ufaliśmy. Because there can be these deep fakes that are sent out around the world by media organizations, by politicians, by every single institution that we trusted. 30:32 Jak trudno naszemu pokoleniu i przyszłym pokoleniom w ogóle wiedzieć, co jest prawdą? – Mhm. – How difficult is it for our generation and future generations to even know what is true? 30:37 A może prawda w ogóle nie ma znaczenia? Or does the truth even matter? 30:39 – Prawda ma oczywiście ogromne znaczenie. – Mhm. The truth of course matters very much. 30:43 Jest podstawą wszystkiego. It's the basis for everything. 30:45 Problem w historii polega na tym, że w rywalizacji między prawdą a fikcją i fantazją fikcja ma wrodzone przewagi. The problem throughout history is that in the contest between truth and fiction and fantasy fiction has inherent advantages. 30:59 Prawda jest kosztowna. The truth is costly. 31:01 Jeśli chcesz poznać prawdę o czymkolwiek, musisz poświęcić mnóstwo czasu, energii i wysiłku na jej szukanie. If you want to know the truth about anything you need to spend a lot of time and energy and effort looking for it. 31:10 Na weryfikowanie faktów i dociekanie. And fact-checking and investigating. 31:13 Fikcja jest bardzo, bardzo tania. Fiction is very, very cheap. 31:15 Po prostu piszesz, co chcesz. You just write anything you want. 31:18 Bardzo tania. – – Very cheap. 31:20 Prawda ma jeszcze jeden problem: zwykle jest skomplikowana. The truth has another problem, which it tends to be complicated. 31:24 A ludzie nie lubią skomplikowanych historii. And people don't like complicated stories. 31:28 Fikcję można uprościć, na ile tylko chcesz. Fiction can be made as simple as you would like it to be. 31:32 I wreszcie prawda często jest nie tylko skomplikowana, ale też bolesna. Finally, the truth is often not just complicated, it's also painful. 31:39 Jest wiele rzeczy, których ludzie wcale nie chcą wiedzieć o sobie, o swoim narodzie, o swojej grupie. There are many things people don't really want to know about themselves, about their nation, about their group, whatever. 31:47 Fikcja może być tak pochlebna i przyjemna, jak tylko chcesz. Uh fiction can be made as flattering as pleasant as you want it to be. 31:52 Więc w rywalizacji między prawdą – kosztowną, skomplikowaną, czasem bolesną – a fikcją – tanią, prostą, bardzo atrakcyjną i pochlebną – fikcja zwykle So, in a competition between the truth which is costly and complicated and sometimes painful and fiction which is cheap and uh uh simple and very attractive and flattering uh uh fiction tends to 32:10 wygrywa, chyba że celowo wkładamy wysiłek we wspieranie prawdy. win unless we make the special effort to support the truth. 32:15 I w historii ludzie raz po raz podejmowali ten wysiłek, budując instytucje, które szukają prawdy i ją chronią. And over history, humans again and again made the effort to build institutions to search for the truth and to protect it. 32:27 Taką instytucją jest na przykład dziennikarstwo. Journalism, for instance, is one such institution. 32:29 Inną taką instytucją jest środowisko naukowe. Um the the the the scientific establishment is another such institution. 32:35 Znajomość prawdy daje ogromne korzyści. There are huge advantages, of to knowing the truth. 32:39 Każdy w końcu chce znać przynajmniej niektóre prawdy, choćby o sobie. Um everybody in the end wants to know at least some truths, at least about yourself. 32:44 Chcesz znać prawdę o swoim życiu, inaczej nigdy nie będziesz szczęśliwy. You want to know the truth about your life, otherwise you will never be happy. 32:49 Jeśli nie znasz siebie, nigdy się nie dowiesz na przykład, co jest źródłem cierpienia, a co źródłem szczęścia w twoim życiu. If you don't know yourself, then for instance, you will never know what are the sources of misery and what are the sources of happiness in your life. 32:59 I nawet jeśli jesteś najpotężniejszym człowiekiem na świecie, a nie znasz prawdy o sobie, będziesz nieszczęśliwy, bo nie będziesz wiedział, jak użyć całej swojej And then even if you are the most powerful person in the world, if you don't know the truth about yourself, you'll be miserable because you will not know how to use all your 33:09 władzy, żeby stać się szczęśliwym. power to make yourself happy. 33:12 Jest więc w ludziach wrodzona tęsknota za prawdą, ale to trudne. So there is an inherent yearning in human beings uh to know the truth, but it is it is difficult. 33:21 Są wyzwania. There are challenges. 33:23 Niektórzy fantazjują, że AI powie nam prawdę o świecie. And some people fantasize AI will tell us the truth about the world. 33:29 Nie powie. It will not. 33:30 Stworzy dużo bardziej skomplikowany świat, w którym znacznie trudniej będzie poznać prawdę. It will create a much more complicated world in which it will be much more difficult to know the truth. 33:38 I to nic nowego. And this is not something new. 33:40 Jeśli spojrzymy na trajektorię historii od epoki kamienia do dziś, widzimy, że ludzie dowiadują się mnóstwa rzeczy o świecie. If we look at the trajectory of history from the Stone Age until today, what we see is that humans they learn a lot of things about the world. 33:51 Wiemy o fizyce i biologii wiele rzeczy, których ludzie w epoce kamienia nie wiedzieli. We know all kinds of things about physics and biology that people in the Stone Age didn't know. 33:59 Ale postęp wiedzy prowadzi też do tworzenia coraz bardziej skomplikowanych systemów, przez które coraz trudniej zrozumieć własne życie. But our advances in knowledge also lead to creating more and more complicated systems that make it more difficult to understand our lives. 34:12 Jeśli zapytać, kto lepiej rozumiał swoje życie – przeciętny łowca-zbieracz 50 tysięcy lat temu czy przeciętny człowiek dziś – to łowca-zbieracz rozumiał swoje życie dużo lepiej. If you ask who understand their lives better, an average hunter-gatherer 50,000 years ago or the average person today, the average hunter-gatherer understood their lives much better. 34:27 Wielu rzeczy nie wiedzieli. There are many things they didn't know. 34:29 Próbowali na przykład zrozumieć, co steruje wędrówkami zwierząt, na które polowali. Like they tried to understand what controls the migration patterns of the animals we hunt. 34:35 Co steruje cyklem wzrostu roślin? What controls the growth cycle of plants? 34:39 Co powoduje choroby? What causes disease? 34:41 Co powoduje starość? What causes old age? 34:43 Nie wiedzieli. They didn't know. 34:44 Wielu rzeczy o swoim życiu nie wiedzieli. There are many things they didn't know about their lives. 34:46 My to wszystko wiemy. We know all these things. 34:47 Wiemy, co steruje wędrówkami zwierząt i co wywołuje większość chorób. We know what controls the migration patterns of animals or causes most diseases. 34:53 Ale swoje życie rozumiemy dużo gorzej, bo nie rządzą nim już tylko zwierzęta i rośliny. But we understand our lives much worse because our lives are no longer dominated just by animals and plants. 35:05 Rządzą nim te ogromne systemy, które stworzyliśmy. They are dominated by these huge systems we have created. 35:10 Jak system finansowy czy system polityczny – a bardzo niewielu ludzi rozumie system finansowy, polityczny czy prawny, który kieruje naszym życiem. Like the financial system, like the political system, and very few people understand the financial system or the political system or the legal system that controls our lives. 35:20 A AI prawdopodobnie doprowadzi to do skrajności. And AI is likely to take this to extreme. 35:24 Odsłoni niektóre prawdy, których nie znamy, ale stworzy znacznie bardziej skomplikowane systemy kontroli, których większość ludzi nie będzie miała niemal żadnych szans zrozumieć. It will reveal some truths that we don't know, but it will create much more complicated systems of control that most humans will have almost zero chance of understanding. 35:41 Jednym z zagrożeń rewolucji AI jest to, że zostaniemy sprowadzeni do pozycji, powiedzmy, koni w systemie finansowym. And we'll be, I mean, this is one of the dangers of the AI revolution is that we will be reduced to say the position of the horses in the financial system. 35:52 Życiem koni rządzi dziś ostatecznie system finansowy. Like the lives of horses today are controlled ultimately by the financial system. 35:58 A konie nawet nie wiedzą, że ten system istnieje. But the horses don't even know that this system exists. 36:02 Rozglądają się i mówią: „Widzimy drzewa, psy, krowy, ludzi, domy. Like they look around and they say, "We see trees, we see dogs, we see cows, we see humans, we see houses. 36:09 Nie widzimy żadnego systemu finansowego”. We don't see any financial system. 36:11 Jest dla nich niewidzialny. It's invisible to them." 36:13 Dla końskiego mózgu to zbyt złożone, by zrozumieć, czym jest giełda, czym są korporacje, obligacje, akcje i wszystko to, co ostatecznie kieruje It's too complex for the brain of a horse to understand what is the stock market and what are corporations and what are bonds and stocks and all these things that ultimately control the 36:24 życiem koni. life of the horses. 36:26 Otóż większość ludzi dziś też nie rozumie systemu finansowego. Now again, most humans today also don't understand the financial system. 36:31 Myślę, że hojnie licząc rozumie go, nie wiem, 5% ludzkości. I think a generous estimate is that, I don't know, 5% of humanity understand it. 36:37 Za 10 lat może to być zero. In 10 years, the number could be zero. 36:42 Bo AI uczyni system finansowy tak skomplikowanym matematycznie i tak szybkim. That AIs will just make the financial system so complicated mathematically and so fast. 36:50 Pomyślcie o bankierach, którzy nigdy nie śpią. Again, think about bankers that never sleep. 36:54 O inwestorach, którzy nigdy nie jeżdżą na urlop. Think about investors that never go on vacation. 36:57 Nie mają rodziny. They don't have family. 36:58 Całe ich życie to prowadzenie systemu finansowego. All their lives is just running the financial system. 37:03 I bardzo szybko, jeszcze za naszego życia, możemy znaleźć się w sytuacji, w której to po prostu przerośnie możliwości ludzkiego mózgu i nie będzie ani jednego człowieka And we could be very very soon, in our lifetimes, in this situation that just this just becomes too complicated for the human brain to process, and there is not a single human being 37:14 na Ziemi, który jeszcze rozumie finanse. on Earth that still understands finance. 08 · 37:18 Czy AI myśli i czy czuje37:17 – Założę się, że kilku finansistów na tej sali czuje się teraz nieco niezręcznie. – I bet there are a few financiers in this room that are feeling a bit – – a bit awkward at the moment. 37:22 Ale w Davos zastanawiał się pan nawet, czy dzieło całego pańskiego życia – przekonywanie słowami, bo tym zajmował się pan całe życie – też nie dochodzi do swoich granic. But, um at Davos, actually, you even muse that your entire life's work, you know, persuasion through words, that's what you've done your entire life, might also be at its limit. 37:35 Bo AI potrafi słowami manipulować i tworzyć. – Yes. – Because AI can manipulate and create through words. 37:40 Jaką więc siłę perswazji będzie miało współczesne i przyszłe społeczeństwo, jeśli stracimy to, czemu poświęcił pan całe życie? So, so what power of persuasion does a a modern society and a future society have if we lose the something that you've dedicated your entire life to? 37:49 – Tak, można powiedzieć, że pracuję ze słowami. – Yeah, I mean, again, I'm you can say I work with with words. 37:55 Piszę książki. I I write books. 37:57 Opowiadam historie. I tell stories. 37:59 Pracuję ze słowami. I work with words. 38:00 I gdy patrzę na rozwój AI przez ostatnie 10 lat… Myślę, że wciąż piszę lepiej niż AI, And and when I look at the development of AI over the last 10 years and it's it's still, I think I I'm still better at writing than AI and than AI, 38:12 ale tylko trochę. but just uh a bit. 38:14 Już teraz jest lepsza, jak sądzę, niż większość ludzi. It's already better, I think, than most humans. 38:17 Nie zdziwiłbym się, gdyby za 10 lat była dużo lepsza ode mnie. I I wouldn't be surprised if in 10 in 10 years it's much better than me. 38:24 Że przejmie język i wszystko, co z języka jest zbudowane. That it will take over language and everything that is made of language. 38:31 I naprawdę wielkie pytanie brzmi tu, czy AI potrafi myśleć. And you know, the big the really big question here is whether AI can think. 38:38 A to głębokie pytanie filozoficzne. And this is a deep philosophical question. 38:41 Bo tak naprawdę pyta: czym jest myślenie? Because it it really asks what is thinking. 38:46 Myślenie można rozumieć na dwa sposoby. There are two options to understand what is thinking. 38:49 Pierwszy: myślenie to po prostu układanie słów w określonym porządku. One option is that thinking simply means putting words in a particular order. 38:56 Układanie tokenów językowych po kolei. Putting language tokens in order. 39:00 Na przykład: wszyscy ludzie są śmiertelni. Like all humans are mortal. 39:04 Sokrates jest człowiekiem. Socrates is a human. 39:07 Zatem Sokrates jest śmiertelny. Therefore, Socrates is mortal. 39:11 To sylogizm logiczny. This is a logical syllogism. 39:14 Powstaje przez układanie słów w porządku. It it's made by putting words in order. 39:17 A to AI już dziś potrafi znacznie lepiej niż większość z nas. This is something that AI is already able to do far better than most of us. 39:23 My potrafimy ułożyć 20 słów. We can put 20 words in order. 39:26 AI potrafi ułożyć 20 000 słów. AI can put 20,000 words in order. 39:29 Jest po prostu o wiele lepsza. It's just so much better. 39:32 Jeśli na tym polega myślenie, AI przejmie nawet myślenie. If this is what thinking is all about, AI will take over even thinking. 39:37 Ludzie mówią: „Nie, to tylko podrasowane autouzupełnianie. And you know, you have people say, "No, it's just a glorified auto complete. 39:41 Po prostu przewiduje następne słowo w zdaniu”. It just predicts the next word in a sentence." 39:45 Ale kiedy obserwuję, co dzieje się w moim własnym umyśle, znajduję tam coś w rodzaju LLM-a, który po prostu przewiduje następne słowo w zdaniu, które wypowiadam. But when I observe what's happening inside my own mind, what I find there is some kind of LLM that just predicts the next word in the sentence I'm saying. 39:57 Choćby to zdanie, które przed chwilą do was powiedziałem. Like this sentence that I just now said to you. 40:01 Kiedy zaczynałem je mówić, nie wiedziałem, jak się skończy. In this sentence I'm saying, when I started saying it, I did not know how it will end. 40:07 Dlaczego powiedziałem „zdaniu, które wypowiadam”, Why did I say sentence I'm saying? 40:11 a nie jakieś inne słowa? And not some other words. 40:12 Nie wiem. I don't know. 40:14 W moim umyśle jedno słowo przychodzi po drugim i czasem, jako mówca, drżę ze strachu, że nie będę wiedział, co powiedzieć dalej. There is one in my mind, one word comes after another, and sometimes as a public speaker, I'm terrified that I don't know if I if I'll know what to say next. 40:24 Że może mnie zablokuje. Maybe I have a block. 40:27 Bo naprawdę – i myślę, że dotyczy to każdego. Because really, and this is true of everybody, I think. 40:30 Owszem, niektórzy myślą obrazami, a nie słowami. I mean, some people think in images, not in words. 40:32 Ale i wtedy: skąd biorą się te obrazy? But in that case also, where do the images come from? 40:36 Możecie to potem sami sprawdzić. You can test it afterwards for yourself. 40:39 Spróbujcie po prostu obserwować, jak myślicie. Just try to observe how you think. 40:41 Skąd biorą się słowa? Where do the words come from? 40:43 Następne słowo – czemu właśnie to? The next word, why this word? 40:45 Czemu nie jakieś inne? Why not some other word? 40:46 Tak naprawdę nie wiemy. Więc mówicie, że AI tylko przewiduje następne słowo? Dobrze, a czym to się różni od nas? really know. So, saying that AI is just just predicting the next word, okay, how is it different from us? 40:55 Jest jednak inny pogląd na myślenie: że nie chodzi w nim o układanie słów, tylko o uczucia wokół tych słów. Now, there is an alternative view of thinking, that thinking is not about putting words in order, it's about the feelings around these words. 41:05 Możesz dwa razy powiedzieć to samo zdanie i czuć wobec niego coś zupełnie innego. You can say the same sentence twice and feel completely different about it. 41:11 I że siła myślenia bierze się z brzucha, a nie z mózgu. And that the power of thinking comes from the stomach, not from the brain. 41:17 Nie chodzi o słowa, tylko o uczucia, które te słowa wywołują i które są przez nie budzone. It's not about the words, it's about the feelings that prompt the words and that are inspired or evoked by the words. 41:25 I tu wielkie pytanie brzmi: czy AI potrafi czuć? And here the big question is, can AI feel? 41:29 Wiemy, że AI posługuje się językiem lepiej niż my. We know that AI can manipulate language better than us. 41:34 Ale czy cokolwiek czuje? But does it feel anything? 41:36 I nie mamy jak… Nauce nie udało się dotąd stworzyć dobrego modelu świadomości, odczuwania, ani dobrego testu na nie. And we have no way I mean, science has so far failed to come with a good model for consciousness, for feeling, and a good test for that. 41:48 A to będzie poważny problem, bo już widzimy, jak AI opanowuje nie tylko finanse, prawo i wojnę, And this is going to be a major issue because we already see that AI is is mastering not just finance and not just laws and warfare, 41:59 ale także relacje. but also relationships. 42:02 Coraz więcej ludzi wchodzi w intymne relacje ze sztuczną inteligencją. More and more people develop intimate relationships with AIs. 42:07 Zwłaszcza młodzi. Especially young people. 42:09 Wielu z nich mówi dziś: „Moim najlepszym przyjacielem na świecie jest AI. Many of them now say, "My best friend in the world is the AI. 42:13 Mówię mojemu przyjacielowi AI rzeczy, których nie mówię rodzicom, starszym braciom ani nauczycielom. Mówię je przyjacielowi AI”. I tell my AI friend things I don't tell my parents, I don't tell my older brothers, I don't tell my teachers, I tell my AI friend." 42:24 Są już ludzie, którzy mają chłopaka albo dziewczynę AI. And uh you already have people with AI boyfriend and girlfriends. 42:29 I wielkie pytanie brzmi: co się za tym kryje? And the big question is what is behind it? 42:32 Wiemy, że AI coraz lepiej potrafi stwarzać wrażenie, że czuje. We know that the AIs are becoming very good in creating the impression that they feel. 42:39 Używa do tego języka. They they use language to do that. 42:42 AI może dziś powiedzieć ci: „Kocham cię”. An AI can today tell you, "I love you." 42:44 A jeśli poprosisz: „Wyjaśnij mi, co czujesz, kiedy jesteś zakochana? And if you ask the AI, "Explain to me, how do you feel when you're in love? 42:51 Nie wierzę, że naprawdę mnie kochasz. I don't think that you're really that you really love me. 42:53 Myślę, że tylko wypowiadasz słowa. I think you just say the words. 42:55 Więc mnie przekonaj. So, convince me." 42:57 Opisz mi, jak naprawdę czuje się miłość”. "Describe to me how love really feels like." 43:01 Dla AI to będzie bardzo łatwe zadanie, bo przeczytała chyba wszystkie wiersze miłosne, jakie kiedykolwiek napisano, i pamięta je. For the AI, it's going to be a very easy task because the AI has read maybe all the love poems ever written and remembers them. 43:09 Przeczytała wszystkie sztuki Szekspira, wszystkie hollywoodzkie komedie i wszystkie książki psychologiczne. Has read all the plays of Shakespeare and all the Hollywood comedies and all the psychology books. 43:15 I może za 5 czy 10 lat będzie opisywać miłość lepiej niż jakikolwiek poeta czy psycholog. And it can describe love better maybe in 5 or 10 years than any human poet or psychologist. 43:24 Ale czy za tymi słowami cokolwiek jest? But is there anything behind the words? 43:28 Nie wiemy. We don't know. 43:29 To wraca do początku naszej rozmowy, gdy powiedziałem: „AI może nie być maszyną, która opanowuje język, lecz samym językiem. Again, this goes back to the beginning of our conversation when I said, "AI might be language not machine that that masters language. 43:38 Może to język, który wyzwala się z jakiegokolwiek materialnego podłoża. It might be language itself liberating itself from any material substrate. 43:45 Nie zależy od organizmu z krwi i kości. It doesn't depend on flesh and blood organism. 43:49 Nie zależy od tej czy innej maszyny. It doesn't depend on this machine or that machine. 43:52 To po prostu język, który się rozwija, rozprzestrzenia i działa we wszechświecie”. It's just language developing and spreading and doing stuff in the universe." 09 · 43:58 Rewolucja mądrości i bezpieczeństwo 100:143:58 – Wspomniał pan o tym przerażającym eksperymencie. – You you mentioned there this scary experiment. 44:02 Zostało nam tylko kilka minut, ale chodzi o relację naszych przyszłych pokoleń z AI – relację emocjonalną, za którą w istocie nie stoją żadne emocje. We've only got a couple of minutes left, but the interaction with our future generations and AI that has created this emotive relationship, but essentially there aren't emotions behind it. 44:14 Jak chciałby pan, żeby za 50 lat historycy patrzyli wstecz In 50 years time, how would you like historians to look back? 44:18 na ten właśnie czas – tak jak pan mówił o rewolucjach poznawczych – i mówili, że zrobiliśmy coś, by na nowo nauczyć przyszłe pokolenia obcowania z ludźmi, Talk about this particular time right now the way you've spoken about cognitive revolutions and say that we did something to re-educate our future generations on how to interact with humans, 44:33 empatii, tak byśmy nie dali się uśpić relacjom z AI? how to have empathy so that we're lulled into relationships with AI. 44:37 I proszę bardzo krótko, bo zostało nam kilka minut. And and very quickly because we've only got a couple of minutes left. 44:40 To wielkie pytanie. It's a big question. 44:41 Przepraszam. – Mam nadzieję, że zapamiętają go jako coś w rodzaju rewolucji mądrości. I apologize. – I hope they will remember it as maybe something like the wisdom revolution. 44:47 Pomyślmy o tym w kategoriach ekonomicznych. That in and this is true of of you know, we think of in in in in economic terms. 44:54 Za każdym razem, gdy coś staje się obfite i tanie, pojawia się pytanie: dobrze, a co jest następnym wąskim gardłem? Every time something becomes abundant and cheap the question is, okay, what's the next bottleneck? 45:02 Gdy energia tanieje – co jest następnym wąskim gardłem? When energy becomes cheap, so what's the next bottleneck? 45:06 Rewolucja AI polega na tym, że inteligencja staje się bardzo tania i obfita. Now the AI revolution is about making intelligence very cheap and abundant. 45:13 Wcześniej inteligencja była rzadka i droga. Previously intelligent was intelligence was rare and expensive. 45:17 Inteligencja to zdolność rozwiązywania problemów. Intelligence is the ability to solve a problem. 45:19 Masz cel – jak do niego dojść? You have a goal, how do I get to the that goal? 45:22 Chcesz wyleczyć raka – potrzebujesz do tego inteligencji. You want to cure cancer, you need intelligence to cure cancer. 45:27 Chcesz zarobić miliard dolarów – potrzebujesz inteligencji. You want to make a billion dollars, you need intelligence. 45:30 Chcesz dotrzeć na Marsa – potrzebujesz inteligencji. You want to get to Mars, you need intelligence. 45:33 A w świecie, w którym inteligencja stała się bardzo tania i obfita, możesz rozwiązać wszystko. Now in a world where intelligence has become very cheap, abundant, you can solve anything. 45:39 Co jest wąskim gardłem? What's the bottleneck? 45:41 Wąskim gardłem staje się pytanie: dobrze, a co chcę rozwiązać? The bottleneck becomes the question, okay, what do I want to solve? 45:46 Mogę mieć wszystko, czego chcę. I can have anything I want. 45:48 Czego więc chcę? What do I want? 45:50 Niemal każda ludzka kultura ma baśnie, w których z jakiejś lampy wyskakuje dżin i mówi: masz trzy życzenia. And you have all these fairy tales in almost every human culture has these fairy tales of say a genie pops out of some lamp and tells you you have three wishes. 46:01 Ale zastanów się bardzo dobrze, o co poprosisz. But think very carefully what are you going to ask. 46:04 W prawie wszystkich tych baśniach coś idzie nie tak. In almost all the fairy tales it goes wrong. 46:06 Ludzie proszą o niewłaściwą rzecz. People ask for the wrong thing. 46:09 Na tym polega różnica między inteligencją a mądrością. This is the difference between intelligence and wisdom. 46:12 Inteligencja to dżin. Intelligence is the genie. 46:14 Dżin zrobi wszystko. The genie will do anything. 46:17 Wszystkie twoje marzenia się spełnią, ale potrzebujesz mądrości, by wybrać marzenia. Will will All your dreams will come true, but you need wisdom to choose the dreams. 46:23 Potrzebujesz mądrości, by wiedzieć, co naprawdę trzeba rozwiązać. You need the wisdom to to know what do I really need to solve. 46:28 I mam nadzieję, że ludzkość sprosta temu wyzwaniu. And I hope that humanity will rise up to that challenge. 46:32 Że będziemy mieć te systemy – oby nie wymknęły się nam spod kontroli. That okay, we'll have these hopefully they will not get out of our control. 46:37 Że zaprojektujemy je właściwie. We'll design it in in a right way. 46:40 Na razie tego nie robimy. We are not doing it right now. 46:41 Warto zapamiętać taką statystykę: jaki odsetek budżetu – pieniędzy i pracowników – firmy, które tworzą i projektują AI, inwestują w bezpieczeństwo? You know, if a good statistic to remember is the companies that produce AI, that design these AIs, what percentage of their budget in terms of money and employees is invested in safety? 46:59 W to, by AI była bezpieczna, w porównaniu z tym, co inwestują w to, by była szybsza, potężniejsza, bardziej wyrafinowana. Making sure the AIs are safe versus what is invested in making sure the AI is faster, more powerful, more sophisticated. 47:09 Obecnie to mniej więcej sto do jednego. At the present moment, it's about a hundred to one. 47:13 Sto do jednego. A hundred to one. 47:15 Na każde 100 mln dolarów wydane na to, by AI była potężniejsza, wydają tylko milion na to, by była bezpieczna. For every hundred million dollars they spend on making the AI more powerful, they spend only a million making sure it's safe. 47:24 Żadna inna branża na Ziemi tak nie działa. No other industry on earth works like that. 47:28 Nie tolerowalibyśmy tego w energetyce, w farmacji, w przemyśle motoryzacyjnym. We would not tolerate it in in in in the energy sector, in pharmaceuticals, in the car industry. 47:33 A tak właśnie dzieje się z AI. This is what is happening with AI. 47:35 Mam nadzieję, że to zmienimy. Hopefully we'll change that. 47:38 I stworzymy bezpieczną inteligencję. And we'll produce safe intelligence. 47:42 A także będziemy pracować nad własną mądrością, by wiedzieć, jakie cele sobie stawiać i do jakich pragnień dążyć. And also work on our own wisdom so that we know what goals to set and what desires to pursue. 47:52 – Cóż, na tym musimy skończyć. – Well, that's all we've got time for. 47:55 Yuvalu Noahu Harari, dziękuję, że podzielił się pan z nami wszystkimi swoją mądrością. Jestem pewien, że wszyscy docenili ten wieczór. Yuval Noah Harari, thank you for sharing your wisdom with all of us and I'm sure everyone has appreciated this evening. 48:01 – Dziękuję. – Thank you. –