Pełny tekst po polsku 710 zdań · zsynchronizowane z wideo
01 · 0:00 Dwa skrajne scenariusze AI0:05 Bardzo, bardzo się cieszę, że mogę wygłosić dla was ten wykład. Really, really happy to have a chance to share this talk with you. 0:08 To temat, który chodzi nam wszystkim po głowie. This is something that's been on all of our minds. 0:11 Od ponad 15 lat badam wzrost gospodarczy i mam poczucie, że AI to niesamowita nowa technologia, a to, jak ukształtuje przyszłość i jakie My research for the last 15 years and longer has been on economic growth, and I feel like AI is this incredible new technology and how it shapes the future and what kind of 0:24 konsekwencje może mieć dla nas i naszych dzieci, to coś, o czym chyba wszyscy myślimy każdego dnia. consequences it may have for us and our children is something I think all of us are thinking about every day. 0:31 Wykład opiera się na czterech czy pięciu pracach badawczych, nad którymi pracowałem przez ostatnie dwa lata. So this is based on I think four or five research papers that I've been working on over the last couple of years. 0:37 Łatwo chyba stwierdzić, że AI będzie prawdopodobnie najbardziej przełomową technologią naszego życia. So... I think it's an easy statement that AI is likely to be the most transformative technology of our lifetime. 0:48 Co ważne, to najnowsza z całej serii technologii przełomowych. Importantly, it's the latest in a line of transformative technologies, right? 0:53 Elektryczność, tranzystor, półprzewodniki, technologie informacyjne, internet — wszystkie one były przełomowe. So, electricity, the transistor, semiconductors, information technology, the internet are all transformative technologies. 1:02 Zastanawiam się nad pytaniem — zaraz do niego dojdę — na ile AI jest inna, a na ile ma cechy wspólne z tymi And a question I've been pondering, and I'll get to this in a little bit, is, you know, to what extent is AI different and to what extent does it share features with these 1:10 wcześniejszymi technologiami przełomowymi. earlier transformative technologies? 1:12 Jeśli chodzi o różnicę, to sedno oddaje chyba następny punkt, do którego nawiązała już trochę Sarah. And I think in terms of the difference, the next bullet point, which Sarah echoed a little bit, I think really gets to the heart of it. 1:19 Co, jeśli maszyny — AI w pracy umysłowej, a AI sterująca robotami w pracy fizycznej — What if machines- AI for cognitive work, and then AI running robots for physical work. 1:27 będą w stanie wykonać każde zadanie, które wykonuje człowiek? What if they can perform every task a human can do? 1:30 Jak wyglądałoby życie w takim świecie? What does it look like to live in that world? 1:34 Na początek chcę przedstawić dwa scenariusze, które traktuję jako dwie skrajności. And to start out, I want to lay out for you two scenarios that I think of as two extremes. 1:40 Żaden z nich raczej się nie spełni. Neither one is Probably what's going to happen. 1:43 To w pewnym sensie karykatury, ale myślenie o nich czegoś nas uczy, a potem pokażę wam swoje badania, które pomagają mi They're kind of caricatures in a way, but I think we learn something by thinking about these two scenarios, and then I'll sort of show you some research I've been doing to help me 1:53 ocenić, gdzie pomiędzy tymi skrajnościami możemy wylądować. think about where in between these two extremes we might end up. 1:58 Pierwszy scenariusz: AI dramatycznie przyspiesza wzrost gospodarczy. Okay, so the first scenario is going to be AI dramatically accelerates economic growth. 2:03 Scenariusz „FOOM” z Doliny Krzemowej, o którym czytamy praktycznie codziennie. The FOOM scenario of Silicon Valley, which you know we read about practically every day. 2:09 Drugi scenariusz: AI jest po prostu zwykłą technologią. The second scenario is where AI is just a normal technology. 2:15 AI to business as usual — nic nadzwyczajnego. AI is business as usual. 2:18 Może jest zwykła w tym sensie, w jakim zwykłe były elektryczność, półprzewodniki i internet. And so, you know, maybe it's normal the way electricity and semiconductors and the internet were normal. 2:23 Były to technologie przełomowe, ale… zobaczymy. They were transformative technologies, but yeah, so we'll see. 2:27 Przyjrzyjmy się więc tym dwóm scenariuszom. So let me dive into these two scenarios. 02 · 2:28 Scenariusz eksplozji wzrostu2:29 Zatem w pierwszym scenariuszu… So in the first scenario... 2:31 Powinienem dodać, że planuję mówić do 17:45, a potem przez 15 minut odpowiadać na pytania. And I should say, my plan is to talk until 5:45 and then take 15 minutes of questions. 2:36 Mam nadzieję, że się uda — mam tu mnóstwo zegarów, które pilnują czasu. So hopefully that'll work well, and I got lots of clocks here to keep me on time. 2:41 A więc AI dramatycznie przyspiesza wzrost. So AI dramatically accelerating growth. 2:44 Myślę, że właśnie obserwujemy, jak to się dzieje. I think this one we're in the middle of watching now. 2:48 Dario Amodei, Sam Altman, Demis Hassabis, Geoff Hinton — luminarze AI — mówią to od 10 lat: So, you know, Dario Amodei, Sam Altman, Demis Hassabis, Geoff Hinton, sort of the luminaries of AI, have been saying for the last 10 years. 2:56 że to nadchodzi, a my posuwamy się zgodnie z harmonogramem, który nakreślili 10 lat temu. That these things are coming, and we're kind of marching along the schedule that they laid out for us 10 years ago. 3:03 Pierwszy etap tego harmonogramu to, jak sądzę, automatyzacja oprogramowania przez AI. The first part of that schedule, I think, is AI automating software, right? 3:08 AI automatyzuje inżynierię oprogramowania. AI automating software engineering. 3:09 W listopadzie, kiedy wyszedł Claude Opus 4.5, Anthropic wziął ten model… Gdy zatrudniają inżyniera oprogramowania, And we saw back in November, I think, when Claude Opus 4.5 was released, Anthropic took this model, and whenever they're trying to hire a software engineer, 3:20 dają kandydatom dwugodzinne zadanie do domu i patrzą, jak sobie poradzą — to część procesu decyzji o zatrudnieniu. they give the software engineers a two-hour take-home exam, and they see how they do, and that's part of how they decide who to hire. 3:26 Dali to samo dwugodzinne zadanie Opusowi 4.5, a on uzyskał wynik wyższy niż ktokolwiek w historii. They gave this same two-hour exam to Opus 4.5, and it scored higher than any human in history. 3:33 A to było już siedem miesięcy temu. Right. That was already seven months ago. 3:38 Od tego czasu modele tylko się poprawiły. And the models have only gotten better. 3:40 Jesteśmy już przy Claude Opus 4.7. We're up to Claude Opus 4.7 now, right? 3:43 Dwie generacje później. Two generations later. 3:45 Czy to realne, że w ciągu dekady będziemy mieć agentów AI, którzy zautomatyzują większość programowania? In the next decade, is it plausible that we'll have AI agents that can automate most coding? 3:51 Może to stanie się już w przyszłym tygodniu. Yeah, maybe that's next week. 3:53 Wygląda na to, że nadejdzie bardzo szybko, choć może zajmie to dekadę. This seems like it's coming very soon, but maybe it's a decade. 3:57 Gdy już masz agentów AI, którzy potrafią wszystko to, co inżynier oprogramowania, dajesz im kolejne zadania. Okay, when you have AI agents that can do everything a software engineer can do— Well, you put them to work doing more things. 4:05 Przede wszystkim zaprzęgasz ich do badań nad AI: mają budować lepsze algorytmy, ulepszać samą AI i tworzyć agentów obsługujących komputer tak jak człowiek. In particular, you put them to work on AI research, build better algorithms to improve the AI itself and build agents that can use a computer the way a human can use a computer. 4:16 I znów — wkrótce potem całkiem prawdopodobne, że będziemy mieć agentów działających jak wirtualni pracownicy zdalni. Right? And so again, shortly after that, it seems plausible that we'll have agents that can function as virtual remote workers. 4:23 Wszystko, o co można poprosić kolegę na rozmowie przez Zoom — tym kolegą mogłaby być AI zamiast człowieka. Anything you could call up a colleague on a virtual Zoom call and ask them to do, the colleague could be an AI rather than a human. 4:31 A gdy już to mamy, znów może wkrótce potem, można to skalować na miliony GPU. Right? Once you have that, and again shortly after maybe, well, you can scale these things up on millions of GPUs, right? 4:42 I mamy miliardy wirtualnych asystentów badawczych, z których każdy działa 100 razy szybciej niż my. And you can end up with billions of virtual research assistants, each running 100 times faster than we run. 4:47 Zaprzęgasz ten „kraj geniuszy w centrum danych”, jak nazwał go Dario Amodei, do odkrywania nowych idei. And you put these to work, this country of geniuses in a data center, as Dario Amodei called them, you put them to work discovering new ideas. 4:58 Mówisz im: pomóżcie mi zaprojektować lepsze chipy. Right? You tell them, help me design better computer chips. 5:02 Symulujcie świat rzeczywisty i pomóżcie zaprojektować lepsze roboty. Simulate the real world and help me design better robots. 5:06 Żebyśmy wreszcie mieli chwytaki, które są dziś wąskim gardłem robotyki. So we can finally get the grippers that are just sort of the bottleneck for robotics. 5:10 Pomóżcie nam projektować lepsze technologie, nowe leki. Help us design better technologies, new pharmaceuticals. 5:14 AlphaFold powstał prawie 10 lat temu i zmienia farmację, ale można zrobić jeszcze o wiele więcej. AlphaFold was nearly 10 years ago now, and it's transforming pharmaceuticals, but there's so much more that can be done, right? 5:23 Skoro masz ten kraj geniuszy w centrum danych — jakich wirtualnych zadań poznawczych nie są w stanie wykonać? If you've got this country of geniuses in a data center What virtual cognitive tasks can they not do? 5:30 A gdy już projektują lepsze roboty w rzeczywistości wirtualnej, testujemy je w realnym świecie. Well, once they're designing better robots in virtual reality, we test them out in the real world. 5:35 I w końcu — może po dekadzie — mamy roboty sterowane przez tych supergeniuszy z centrum danych i automatyzujemy też zadania fizyczne. And again, eventually, maybe it takes a decade, but eventually we have robots run by these super geniuses in a data center, and then we've automated physical tasks as well. 5:47 A gdy zautomatyzujesz zadania poznawcze i fizyczne, to w modelach wzrostu, które lubię, które sam spisałem i których wielu z was uczyłem, And once you automate cognitive tasks and physical tasks, yeah, in the growth models that I like, that I wrote down, that I taught many of you, 5:55 wzrost eksploduje. Taki wzrost eksplozywny jak najbardziej może nastąpić, jeśli ta historia jest prawdziwa, i nie widać oczywistego miejsca, w którym by się sypała. growth explodes So this explosive growth is something that absolutely can happen if this story is right, and it's not obvious where this story breaks down. 6:07 To scenariusz, który jest dziś, jak sądzę, bardzo popularny w Dolinie Krzemowej. So this is a scenario that I think is one that's very popular in Silicon Valley now. 6:11 Jest całkowicie wiarygodny. It's totally plausible. 6:13 Pytanie dotyczy horyzontu czasowego. There's a question of the horizon. 6:15 Czy stanie się to za trzy, pięć lat, jak u autorów „AI 2027” albo w „Situational Awareness” Leopolda Aschenbrennera? Does it happen in three years or five years, like the AI 2027 people, or Leopold Aschenbrenner's situational awareness? 6:23 Czy za 25 lat? Or does it happen in 25 years? 6:25 W pewnym sensie, jeśli wzrost eksploduje i przyspiesza, to czy za pięć, czy za 25 lat — i tak przemienia świat. Well, in some sense, if growth is exploding and accelerating- You know, five years versus 25 years is still transforming the world. 6:33 To scenariusz dobrze znany w Dolinie Krzemowej. Okay, so that's a scenario that's very familiar in Silicon Valley. 6:36 Uważam, że jest wiarygodny i ma swoje zalety, ale z pewnością nie jest przesądzone, że tak to się potoczy. I do think it's plausible and has some merits, but it's certainly not guaranteed that this is the way things happen. 03 · 6:43 AI jako zwykła technologia6:43 Przedstawię wam scenariusz z drugiej skrajności. Let me give you a scenario at the other extreme. 6:47 AI jako technologia „business as usual” — nic nadzwyczajnego. AI is just sort of a business-as-usual technology. 6:50 Tu historia wygląda moim zdaniem następująco. And here I think the story goes the following way. 6:55 Pokażę wam wykres. Let me show you a graph. 6:57 Jeśli kiedykolwiek chodziliście na moje zajęcia, widzieliście go 37 razy — przepraszam — ale teraz zobaczycie wersję zaktualizowaną. And again, if you ever took my class, you saw this graph 37 times, so apologies, but now you get to see the updated version. 7:03 Tak bardzo się zmienił od czasu waszych zajęć, prawda? It's changed so much relative to when you took the class, right? 7:07 Co to takiego? Okay, so what is this? 7:08 To przeciętny poziom życia w Stanach Zjednoczonych. This is average living standards in the United States. 7:12 Realny dochód na osobę w ciągu 150 lat, w skali logarytmicznej, czyli ilorazowej. Real income per person, 150 years on a logarithmic or a ratio scale, right? 7:19 I widać, że nigdy nie oddalamy się zbytnio od prostej o nachyleniu 2% rocznie. And what you see is you never get too far away from this straight line with a slope of 2% per year. 7:26 Poziom życia w USA przez 150 lat rósł o 2% rocznie, plus minus odrobinę. Living standards in the United States for 150 years have risen at 2% per year plus or minus a little bit. 7:34 Szczególnie ciekawe jest to, gdy pomyśleć o technologiach przełomowych, które w tym okresie pojawiły się i rozprzestrzeniły w gospodarce USA. Okay? Now, what's especially interesting about that is when you reflect on the transformative technologies that entered and diffused throughout the US economy during this period, 7:47 W 1870 roku elektryfikacja gospodarki USA była ledwie błyskiem w oku Thomasa Edisona. right? In 1870, the electrical transformation of the US economy was just a glimmer in Thomas Edison's eye. 7:55 W ciągu następnych 50 lat ta transformacja się dokonała. Over the next 50 years, this transformation happened. 7:59 Silniki spalinowe, samoloty odrzutowe, Internal combustion engines, jet airplanes, right? 8:05 antybiotyki, lampy elektronowe, tranzystory, półprzewodniki, technologie informacyjne, internet — wszystkie te niesamowite technologie absolutnie odmieniły poziom życia, Antibiotics, vacuum tubes, transistors, semiconductors, Information technology, the internet, all of these amazing technologies that absolutely transformed living standards, 8:17 a mimo to tempo wzrostu zawsze wynosiło 2% rocznie. and yet the growth rate was always 2% per year. 8:22 To moim zdaniem rodzi dużą zagadkę. So this raises a big puzzle, I think. 8:25 Jak to możliwe, że jednocześnie te technologie były How is it, how can it simultaneously be true that these technologies were? 8:30 niezwykle przełomowe, a tempo wzrostu wciąż wynosiło 2%? Wildly transformative, and yet growth rates still 2%. 8:36 Odpowiedź, jeśli się nad tym zastanowić, kryje się w pytaniu: jaki jest scenariusz alternatywny? Well, the answer, if you think about it, is that what is the counterfactual? 8:42 Myślę, że technologia działa tak, że w obrębie każdej klasy technologii coraz trudniej o nowe idee. Right? I think the way technology works is that within any technology class, ideas get harder to find. 8:50 Silnikowi parowemu kończy się para. The steam engine runs out of steam. 8:52 Gdybyśmy mieli tylko maszynę parową i nie odkryli elektryczności, wzrost by zwolnił. And so that if all you had was the steam engine and you didn't discover electricity, growth would have slowed. 8:59 Albo gdybyśmy mieli tylko elektryczność, a nie odkryli silników spalinowych i półprzewodników, wzrost by zwolnił. Or if all you had is electricity and you didn't discover internal combustion engines and semiconductors, growth would have slowed. 9:06 I ta prosta by się wygięła — łuk by tu opadł. And so the straight line would have bent, the arc would have bent here. 9:10 Zamiast tego każda z tych technologii pozwoliła, by wzrost o 2% trwał przez kolejne 50 lat. And instead, what each of these technologies did is they allowed 2% growth to continue for another 50 years. 9:18 I scenariusz — w cudzysłowie — „pesymistyczny” dla AI jest taki, że to po prostu najnowsza technologia przełomowa, dzięki której wzrost o 2% potrwa kolejne 50 lat. Right? And sort of the pessimistic, in quotes, scenario about AI is maybe it's the latest transformative technology that lets 2% growth continue for another 50 years. 9:33 Widzicie więc, że to dwie bardzo różne skrajności. Okay, so you can see how these are two very different extremes. 9:36 Myślę, że obie mają sporo racji. I think they both have a lot of merit. 9:38 Jeszcze jedna lekcja z historii gospodarczej — trochę widać ją w tym, co przed chwilą mówiłem. One other point I'll say about sort of a lesson from economic history, and you see this a little bit in the discussion I just gave. 9:47 Ekonomiści, którzy badali, jak napęd parowy został zastąpiony elektrycznym albo jak technologie informacyjne rozprzestrzeniały się w gospodarce, wielokrotnie podkreślali, że takie transformacje trwają dekady. Economists who've studied how steam power got replaced by electric power or how information technology diffused throughout the economy have highlighted repeatedly that these transformations take decades. 10:01 Przechodząc z napędu parowego na silniki elektryczne, trzeba przeorganizować fabrykę. You have to reorganize the factory when you go from steam power to electric motors, right? 10:07 Zamiast jednego wału przez środek hali można teraz wszędzie postawić silniki. Instead of one shaft through the middle of the factory, you can now put motors everywhere. 10:11 Albo technologie informacyjne. Right? Or information technology, right? 10:14 Potrzeba mnóstwa innowacji komplementarnych. You have all these complementary innovations that need to be made, right? 10:19 Wynajdujesz arkusz kalkulacyjny, edytor tekstu, bazę danych, SQL. You invent the spreadsheet, you invent the word processor, you invent the database, you invent SQL, right? 10:24 Mnóstwo innowacji komplementarnych trzeba zintegrować, a produkcję przeorganizować. And so you have lots of complementary innovations that need to be integrated and production needs to be reorganized. 10:30 To trwa dekady. That takes a time that's measured in decades. 10:34 Lekcja z historii gospodarczej brzmi więc: nie zakładajcie pochopnie, że technologie przełomowe wyginają tę krzywą w górę. So again, this sort of lesson from economic history is don't be so quick to assume transformative technologies bend the curve here. 10:44 Wyginają ją względem scenariusza, w którym wzrost zwalnia, i może to chwilę potrwać. They're bending it relative to growth slowing down, and it may take a while. 10:48 Takie są wnioski. Those are the lessons. 10:49 Ale wciąż zostaje pytanie. Okay. But still, we've got this question. 10:53 Oba scenariusze mają wiarygodne elementy. Okay, both of these scenarios have plausible aspects to them. 10:58 Gdzie pomiędzy nimi się znajdziemy i jak o tym myśleć? Where are we gonna be in between, and how should we think about that? 04 · 11:00 Rola najsłabszych ogniw11:01 I właśnie nad tym pytaniem zastanawiam się mniej więcej od półtora roku. And that's the question I've been thinking about for the last year and a half or so. 11:05 A pojęcie, na które wpadłem i które uważam za naprawdę pomocne, And the concept that I've come up with that I think is really helpful. 11:11 to najsłabsze ogniwa. Is weak links, right? 11:15 Łańcuch jest tak mocny, jak jego najsłabsze ogniwo. A chain is only as strong as its weakest link. 11:17 Pokażę wam, jak to się przekłada na biznes. And let me give you the application of that to business, right? 11:22 Sukces w biznesie wymaga pomyślnego wykonania bardzo wielu zadań. Business success requires completing many, many tasks successfully. 11:28 Jeśli chcesz wypuścić nową wersję iPhone’a, musisz ją zaprojektować. Right? So if you want to release a new version of the iPhone, you have to design it. 11:33 Musisz pozyskać wszystkie części. You have to source all the parts. 11:36 Musisz ją wyprodukować. You have to get it manufactured. 11:38 Musisz dopilnować, by produkcja wszędzie mieściła się w bardzo, bardzo ścisłych tolerancjach. You have to make sure the manufacturing is within very, very exact tolerances in every place. 11:44 Jedna rzecz nie na swoim miejscu i całość się sypie. You get one thing out of place, the whole thing falls apart, right? 11:47 Kiedy już wyprodukujesz, musisz wymyślić, jak dostarczyć to na czas. Once you've manufactured it, you have to figure out how to get it delivered in a timely fashion. 11:52 Setki milionów iPhone’ów dostarczanych każdej jesieni. Hundreds of millions of iPhones delivered every fall. 11:56 Musisz zająć się sprzedażą detaliczną, reklamą i tak dalej. You have to handle the retail, the advertising, et cetera, et cetera. 12:00 Jeśli zawiedzie którekolwiek z tych zadań, duża część wartości przepada, przynajmniej w krótkim okresie. If any of these tasks falls down— Then a lot of the value gets lost, at least in the short term. 12:07 I właśnie tym jest model najsłabszych ogniw. Okay, and that's what a weak link model is, right? 12:10 Prom kosmiczny Challenger eksploduje, bo zawodzi gumowa uszczelka za 25 dolarów – gumowy O-ring. And so the Space Shuttle Challenger explodes because a $25 rubber seal, the rubber O-ring, fails. 12:19 Zawodzi jedna mała część. One small part fails. 12:20 Albo pomyślcie o ASML i TSMC, producentach chipów, z maszynami niewiarygodnie skomplikowanymi, o niewiarygodnie wyśrubowanej precyzji. Or you think about ASML and TSMC, the manufacturer of these computer chips, with machines that are just incredibly complicated, with precisions that are just incredibly tight Right? 12:32 Jeden mały błąd i chipy nie działają. One little error there and your chips don't work, right? 12:36 Jak to pomaga nam myśleć o tych dwóch scenariuszach? And so how does this help us think about these two scenarios? 12:40 Wróćmy znowu do łańcucha. Well, again, back to the chain. 12:43 Jeśli masz łańcuch z 20 ogniwami i 17 z nich zrobisz naprawdę bardzo mocnymi, to pomaga, ale ostatecznie nie zmienia wytrzymałości całego łańcucha, bo If you've got a chain with 20 links and you make 17 of them really, really strong, that helps, but it doesn't in the end really change the overall strength of the chain because 12:57 zawsze zostają trzy najsłabsze ogniwa. Dam wam przykład, który uważam za naprawdę bardzo pomocny. there are always three more weakest links And so let me give you an example of that that I find really, really helpful. 13:07 W kieszeni, waszej i mojej, mamy komputer ze 100 milionów razy większą liczbą tranzystorów niż nasz odpowiednik w latach 70. In your pocket, in my pocket, we have a computer with 100 million times the transistors than the equivalent of us had in the 1970s. 13:17 Czyli w kieszeni masz 100 milionów razy więcej tranzystorów niż ktoś taki jak ty w latach 70. Okay, so in your pocket, you have 100 million times the transistors than the equivalent of you had in the 1970s, right? 13:25 A ja nie jestem 100 milionów razy bardziej produktywny w badaniach. I'm not 100 million times more productive at research, right? 13:29 Dlaczego? Mój komputer odwraca macierze jak nikt, ale to ja muszę wymyślić, jakie dane do nich wstawić, jakie pytania zadać, Why not? Well, my computer can invert matrices like nobody's business, but I have to figure out what data to put in those matrices, or I have to figure out what questions to ask, 13:39 jaką teorię sprawdzić. what theory to test, right? 13:41 To problem najsłabszych ogniw. It's a weak link problem, right? 13:43 Można być naprawdę dobrym w jednej rzeczy. You could be really good at one thing. 13:45 Zamiast 100 milionów razy bardziej produktywny jestem może dwa, trzy razy bardziej. Instead of 100 million times more productive, maybe I'm two or three times more productive. 13:49 To świetnie, ale ograniczają mnie inne najsłabsze ogniwa, które się nie zmieniły. That's great, but I'm limited by the other weak links that haven't changed, right? 13:54 To, jak sądzę, bardzo ważna obserwacja o tym, jak działa świat, i pomoże nam zrozumieć, gdzie jesteśmy między tymi dwoma scenariuszami. So this is, I think, a really important insight about how the world works, and it's gonna help us understand where we are in these two scenarios. 14:01 Zwrócę uwagę na jeszcze jedną rzecz, do której zaraz wrócę. Let me highlight one other thing that I'll come back to shortly. 14:06 Najsłabsze ogniwa są źródłem niedoboru. Weak links are the source of scarcity. 14:09 Jedna z kluczowych lekcji ekonomii: to niedobór daje wysokie zwroty. One of the key lessons of economics is scarcity is what gives rise to high returns, right? 14:16 Co jest czynnikiem deficytowym? What is the scarce factor? 14:18 Co jest najsłabszym ogniwem? What is the weak link? 14:18 To pytanie powinniśmy zadawać zawsze, gdy badamy jakieś zjawisko ekonomiczne. Is a question we should always be asking when we're studying some economic phenomenon. 14:23 A kiedy wrócimy do tego, co stanie się z dochodami naszych dzieci, And so when we come back to what's going to happen to the income of our kids. 14:29 myślenie o tym, co jest deficytowe, to moim zdaniem bardzo pomocna rama dla tego pytania. Thinking about this, what is scarce, I think is a very helpful framing for that question. 14:35 Dobrze. Jeszcze jeden wykres, który bardzo lubię. Okay. One more graph that I like a lot. 14:40 Jeśli byliście na moich zajęciach, może go pamiętacie. So again, if you took my class, you may remember this. 14:43 Ekonomiści mają obsesję na punkcie pytania: komu przypada PKB? Economists are infatuated with the question, who gets GDP? 14:47 Kto dostaje zapłatę? Who gets paid? 14:48 Jaka część PKB trafia do pracy, a jaka jest wypłacana jako zwrot z kapitału? Right? What share of GDP is paid to labor versus is paid as a return to capital? 14:56 Okazuje się, że przez 75 lat było to niezwykle stabilne. Turns out for 75 years, it was remarkably stable. 15:01 Dwie trzecie szły do pracy, jedna trzecia do kapitału. Two-thirds went to labor, one-third went to capital. 15:05 Co ciekawe, w ostatnich 25 latach udział pracy spadł o mniej więcej 10%, udział kapitału wzrósł, a ekonomiści mają Okay? In the last 25 years, interestingly, the share paid to labor has fallen by about 10%, share paid to capital has gone up, and economists are, 15:16 obsesję na punkcie zrozumienia tego. obsessed with understanding this. 15:18 Mamy dwie teorie. We have two theories. 15:19 Jedna to automatyzacja. One is automation. 15:20 Do niej zaraz wrócę. Druga to siła rynkowa, koncentracja. I'll come back to that in a second, and the other is market power, concentration. 15:24 Może duże firmy są większe i mają większą siłę rynkową. Maybe big firms are bigger and they're exercising more market power. 15:27 Mogą zagarniać więcej PKB jako zyski i mniej płacić pracy. They're able to capture more of the GDP as profits and pay less to labor. 15:31 Nie znamy odpowiedzi. Okay? We don't know the answers to that. 15:34 Dziś na to nie odpowiem. I'm not going to answer that today. 15:35 Zamiast tego pójdę w innym kierunku. Instead, I want to take that in a different direction, which is, okay. 15:39 Dwie trzecie trafiają do pracy, jedna trzecia do kapitału. Two thirds is paid to labor, one third is paid to capital. 15:42 Ale pracę i kapitał można rozbić na składniki. But you can break labor and capital into their components. 15:45 Ile z PKB płaconego pracy trafia do osób z wykształceniem wyższym niż studia, a ile do osób bez dyplomu uczelni? How much of the GDP that's paid to labor is paid to people with more than a college education versus less than a college education? 15:54 Albo spójrzmy na dochody z kapitału. Or look at the capital income. 15:56 Ile to zwrot z budynków i budowli, a ile ze sprzętu? How much is a return to buildings and structures versus equipment? 16:00 A w ramach sprzętu – ile to zwrot z komputerów? Or within equipment, how much is a return to computers? 16:05 Jaka część PKB jest płacona jako zwrot z mocy obliczeniowej i jak to się zmieniało w czasie? Okay? So what share of GDP is paid as a return to computing power, and how has that changed over time? 16:15 Okazuje się, że jeśli zajrzy się do właściwego arkusza, tę liczbę można po prostu znaleźć na stronach BEA i BLS. Okay, turns out if you look in the right spreadsheet, you could just look this number up on the BEA, BLS website. 16:22 Ale trzeba poszukać. But you have to dig. 16:24 Jak to wygląda? Okay, what does it look like? 16:26 Z jednej strony komputery są wszędzie. On the one hand, computers are everywhere. 16:30 Z drugiej – ich ceny spadają na łeb, na szyję. On the other hand, the price is falling like crazy. 16:33 To P razy Q, gdzie Q rośnie, a P spada. Right, it's a P times Q, where Q is going up and P is going down. 16:37 Który efekt przeważa? So which effect dominates? 16:39 Oto dane. Okay, here's the data. 16:41 W latach 90., podczas boomu dotcomów, udział PKB płacony jako zwrot z komputerów rósł. During the 1990s, during the dotcom boom, the share of GDP pays a return, a return to computers went up. 16:49 Szczyt osiąga w 2000 roku – nieco poniżej 4,5% – a od 2000 roku spadł o jedną trzecią, do 3%. It peaks in 2000 at just under four and a half percent, and since 2000 it's fallen by a third to three percent. 16:59 Komputery rzeczywiście są wszędzie, a mimo to dostają mniejszą, a nie większą część PKB. Right? Computers are indeed everywhere, and yet they're paid less as a share of GDP rather than more. 17:06 Spadek ceny przeważa nad wzrostem ilości. The price decline dominates the quantity increase. 17:09 Dokładnie to przewiduje model najsłabszych ogniw. This is exactly what a weak-link model predicts. 17:12 Komputerów jest w bród. Right. Computers are plentiful. 17:14 To najobfitsza rzecz w gospodarce. They're the most plentiful thing in the economy. 17:18 Wszystko inne – ludzie – jest deficytowe. Everything else, humans are scarce. 17:20 I dlatego udział komputerów spadł. Right. And so the computer share has gone down. 17:23 Więc kiedy myślimy, że AI może zautomatyzować wszystko, i martwimy się, co my wszyscy będziemy robić, So when we think AI might automate everything— And we worry, what are all of us going to do? 17:31 ten wykres to przynajmniej coś, co warto wziąć pod uwagę. This graph is at least something to take into account. 17:35 Komputery dostają mniej PKB, a nie więcej, mimo że w kieszeni macie 100 milionów razy więcej tranzystorów. Right. Computers are getting less of GDP, not more of GDP, even though there are 100 million times more transistors in your pocket. 17:42 Dobrze. Co robimy dalej? Okay. So, what do we do next? 05 · 17:44 Model AI i przyszłego wzrostu17:46 Spisujemy model, żeby zbadać te dwa scenariusze. We write down a model to try to study this, these two scenarios. 17:51 W modelu źródłem długookresowego wzrostu są idee – to Nobel Paula Romera. Okay? And the model features ideas as the source of long-run growth, Paul Romer's Nobel Prize. 17:59 Zawiera funkcję produkcji dóbr i idei, w obu przypadkach z najsłabszymi ogniwami. It features a production function for goods and ideas that both involve weak links, right? 18:06 Produkcja wszystkiego, moim zdaniem, wiąże się z najsłabszymi ogniwami. The production of everything, in my sort of view, involves weak links. 18:10 Funkcje produkcji dóbr i idei mają najsłabsze ogniwa, ale te z czasem są automatyzowane. So goods and idea production functions have weak links, but they get automated away. 18:15 Kiedyś odwracało się macierze ręcznie, ołówkiem na papierze. It used to be inverting matrices was done with a pencil and paper by hand. 18:20 Teraz robi to komputer. Now the computer does it, right? 18:22 Kiedyś samochód prowadziło się ręcznie, a teraz w San Francisco robi to komputer. It used to be that driving your car was done by hand, now in San Francisco, the computer does it, right? 18:28 Mam nadzieję, że wkrótce będzie to robił na całym świecie. Hopefully, hopefully, throughout the world, the computer will do it someday soon. 18:33 Ten proces automatyzacji zachodzi w czasie endogenicznie. Okay, and then that automation process occurs endogenously over time. 18:39 Wynajdujesz lepsze maszyny, szybsze komputery, a to pozwala automatyzować coraz więcej rzeczy. You invent better machines, you invent faster computers, and that lets you automate more and more things. 18:45 Następnie kalibrujemy model do historycznych danych z USA sięgających lat 50. Okay? And then we calibrate the model to fit the historical US data back to the 1950s, okay? 18:51 I puszczamy go w przód, żeby zobaczyć, co się stanie. Żadnej z liczb, które pokażę, nie traktujcie zbyt poważnie, And then we run it forward to ask what's gonna happen Okay, and none of the numbers I'm going to show you should you take that seriously, 18:58 ale warto zobaczyć, co się dzieje, i zastanowić się, jakie siły ekonomiczne są w grze i jak mogą być ważne. but it's just helpful to see what happens and try to think about what the economic forces are at play and how important they might be. 19:06 Zanim pokażę symulację w przód, przedstawię inny eksperyment myślowy, który można przeprowadzić w tym modelu – naprawdę ciekawy. Okay. Before I show you the simulation going forward, let me give you another thought experiment that you can do in this model that's really interesting. 19:13 Jak wspominałem, Dario Amodei, Anthropic, OpenAI – wszyscy spodziewają się, że wkrótce zautomatyzujemy inżynierów oprogramowania. So as I mentioned, Dario Amodei, Anthropic, OpenAI, everyone is expecting we're going to automate software engineers very soon. 19:24 Można zapytać: o ile bylibyśmy bogatsi, gdybyśmy zautomatyzowali wszystkich inżynierów oprogramowania? One can ask, how much richer would we be if we automated all software engineers? 19:29 W modelu możemy o to zapytać. We can ask that in the model. 19:31 Właściwie zmienię lekko pytanie. And in fact, I'm going to change the question slightly. 19:34 Co, gdybyśmy mieli nieskończoną, a nie skończoną ilość oprogramowania? What if we had infinite amounts of software rather than finite amounts of software? 19:40 Wszystko, co korzysta z oprogramowania, podbijamy do nieskończoności. So anything that uses software, push it to infinity. 19:42 O ile bylibyśmy bogatsi? How much richer would we be? 19:45 Pamiętacie przykład z komputerem. Okay? Remember the computer example. 19:47 Mamy 100 milionów razy więcej tranzystorów, a nie jesteśmy 100 milionów razy bogatsi – więc wyjdzie dużo mniej, przez najsłabsze ogniwa. We have 100 million times the transistors, and we're not 100 million times richer, so it's going to be much less because of weak links. 19:54 Ile mniej? How much less? 19:55 Okazuje się, że jest bardzo prosty, elegancki wzór. Turns out there's a very simple, elegant formula. 19:57 Przez najsłabsze ogniwa nieskończona ilość jakiegoś zadania podnosi PKB o udział tego zadania w PKB. Because of weak links, infinite amounts of some task raises GDP by that task's share of GDP. 20:08 Oprogramowanie to około 2% PKB. Software is about 2% of GDP. 20:11 Gdybyśmy mieli nieskończenie dużo oprogramowania, bylibyśmy bogatsi o 2%. If we had infinite software, we'd be 2% richer, right? 20:16 Dlaczego tylko 2%? Why only 2%? 20:18 Bo wszystkie pozostałe najsłabsze ogniwa nas ograniczają. Because all the other weak links are bottlenecking us. 20:21 To uświadamia, że świetne zautomatyzowanie jednej rzeczy nie wystarczy. Okay? And so this sort of makes you realize automating one thing really well- Is not enough. 20:28 Trzeba stale automatyzować kolejne najsłabsze ogniwa. What you need to do is you need to keep automating the weak links. 20:31 Potrzebujemy modelu dynamicznego, nie tylko statycznego – i to właśnie robi nasz model. Right, we need a dynamic model, not just this static model, And that's what the model does. 20:38 Nasz model zawiera dwa kluczowe składniki, które moim zdaniem wynikają z opisanych przeze mnie scenariuszy. Okay, yeah. So our model features the two key ingredients that I think one takes away from those scenarios that I outlined. 20:47 W pierwszym scenariuszu automatyzacja daje nowe idee, te dają więcej automatyzacji, a ta – więcej nowych idei. In the first scenario, you've got automation gives you new ideas, gives you more automation, gives you more new ideas. 20:54 To efekt koła zamachowego z dodatnim sprzężeniem zwrotnym. There's a flywheel effect there with positive feedback. 20:57 A dodatnie sprzężenie zwrotne dąży do eksplozji. And positive feedback wants to explode, right? 21:01 Z drugiej strony, ze scenariusza „business as usual” mamy najsłabsze ogniwa. On the other hand, based on the business as usual scenario, we've got weak links, right? 21:08 Najsłabsze ogniwa mówią: automatyzujesz część rzeczy, ale nie resztę, więc łańcuch wciąż jest słaby. Weak links tell you, okay, automating some stuff but not the rest, the chain is still weak because of the weak links. 21:16 Co, jeśli umieścimy oba te składniki w modelu, skalibrujemy go do tego, co obserwowaliśmy w przeszłości, i puścimy w przód? Okay, so what if you put both these ingredients in a model, calibrate it to what we've observed in the past, and run it forward? 21:24 Pokażę wam jeszcze dwie symulacje. And I'm going to show you two more simulations, right? 21:26 Dwa zestawy symulacji. Two sets of simulations. 21:29 W pierwszym AI to po prostu kontynuacja historycznych wzorców automatyzacji, które znamy. In one, AI is just a continuation of the historical patterns of automation that we've seen. 21:36 Po prostu ciąg dalszy. Okay, so it just continues. 21:38 Automatyzujemy gospodarkę od dawna. You know, we've been automating the economy. 21:40 To ważna kwestia. This is an important point. 21:41 Automatyzujemy produkcję od 200 lat. We've been automating production for 200 years. 21:44 Rewolucja przemysłowa. The Industrial Revolution, right? 21:47 Krosna tkackie, traktory i koleje. Textile looms, tractors and railroads, right? 21:52 Komputery. Automatyzujemy od dawna, a wzrost wciąż wynosi 2%. Computers. We've been automating for a long time, and yet 2% growth Right? 21:59 Ale jeśli dalej będziemy to robić, coś może się zmienić. But if you continue doing that, something may change. 22:04 Drugi scenariusz uznaje, że AI może być czymś innym. And then the second scenario recognizes: look, AI may be different. 22:10 AI może nie być tylko kontynuacją historycznych wzorców. AI might not just be a continuation of historical patterns. 22:15 Najsłabszym ogniwem naszej pracy jest to, że nie mamy mikroekonomicznie ugruntowanego modelu AI, który wyjaśniałby, na czym dokładnie polega ta odmienność. A weak link of our paper is we don't have a micro-founded model of AI that explains exactly how it's different. 22:24 Zamiast tego przyjmiemy bardzo agresywną kalibrację. So instead, what we're going to do is we're going to take a very aggressive calibration. 22:28 Jednym z sektorów, które badamy w danych historycznych, jest sektor komputerowy. One of the sectors we look at in our history is the computing sector. 22:33 Prawo Moore’a jest niesamowicie szybkie. Right? Moore's Law is incredibly fast. 22:34 Co, jeśli w agresywnym scenariuszu, w którym AI zrywa z przeszłością, założymy, że cała gospodarka od dziś jest automatyzowana tak jak w prawie Moore’a? So what if, as our aggressive scenario where AI is a break with the past, we say the entire economy starts out today getting automated just like Moore's Law? 22:47 Maszyny w całej gospodarce stają się lepsze o 10% rocznie, od dziś, a ta automatyzacja daje więcej idei, a te – więcej automatyzacji. Machines get better at 10% per year throughout the economy starting today, and then that automation gives you more ideas, gives you more automation. 22:54 To będzie bardzo agresywny scenariusz. Okay, so that's going to be a very aggressive scenario. 22:57 Uważam drugi scenariusz za zbyt agresywny, a pierwszy za prawdopodobnie niewystarczająco agresywny. I think of the second scenario as too aggressive, and the first scenario as probably not aggressive enough. 23:02 Więc może prawda leży gdzieś pośrodku. So again, maybe the truth is somewhere in between. 23:05 Dobrze. Co widzimy, gdy to zrobimy? All right. So what do we see when we do this? 23:08 Pokażę po trzy zestawy wykresów dla każdego scenariusza, z mnóstwem linii, ale mam nadzieję, że będą zrozumiałe. So I'm gonna show you three sets of graphs for each scenario and a lot of lines on the graphs, but hopefully it'll make sense. 23:14 Pierwszy wykres to udział kapitału w porównaniu z udziałem pracy. This first graph is the capital share versus the labor share. 23:17 Pamiętacie, że jedna trzecia trafia do kapitału, a dwie trzecie do pracy? Remember I said one-third is paid to capital, two-thirds is paid to labor? 23:21 Jaka część trafia do kapitału w naszych symulacjach? What share is paid to capital in our simulations? 23:24 Widać, że w przód przez następne 80 lat wynosi 38,2%. You could see going forward, it's 38.2% for the next 80 years. 23:31 A potem linie się rozchodzą, mniej więcej za sto lat. And then it actually splits off, you know, a hundred years from now. 23:36 Co się dzieje? What's going on? 23:37 Mamy trzy scenariusze. We have three scenarios. 23:39 Fioletowy zakłada, że w ludziach nie ma nic szczególnego i wszystko zostaje zautomatyzowane w skończonym czasie. The purple scenario says there's nothing special about humans, and everything gets automated in finite time. 23:48 Jeśli tak się stanie, udział kapitału w PKB dochodzi do 100%, a udział pracy spada do zera. If that happens, the share of GDP paid to capital goes to 100%, share paid to labor goes to zero. 23:55 Zielony scenariusz mówi prawie to samo, ale 3% zadań jest zarezerwowanych dla ludzi i nie da się ich zautomatyzować. Okay? The green scenario says almost that, but there's 3% of tasks that are reserved for humans, that can't be automated away. 24:08 Magnus Carlsen grający w szachy, Leo Messi grający w piłkę. Magnus Carlsen playing chess, Leo Messi playing soccer, right? 24:12 Pewne rzeczy zostawimy ludziom, a wtedy w 97% stajesz się nieskończenie dobry, ale 3% wykonywane przez ludzi cię ogranicza. There's some things we're going to reserve for humans, and in that case, you get infinitely good at the 97%, but the 3% done by humans bottlenecks you. 24:23 I w istocie najsłabszym ogniwem są ludzie. And in fact, the weak link is the humans. 24:27 Udział ludzi dochodzi do 100%, udział pracy do 100%, a udział kapitału spada do zera. The human share goes to 100%, the labor share goes to 100%, the capital share goes to zero. 24:31 To jak w przykładzie z komputerami, gdzie udział wynagrodzenia komputerów spada. This is like that computer example I gave you where the share paid to computers is falling. 24:36 Co ciekawe, jest też scenariusz pośredni, który nazywam bazowym – niebieski – w którym udział kapitału pozostaje stabilny: jedna trzecia, dwie trzecie. Okay, and then interestingly, there's a scenario in between that I call the baseline, the blue scenario, that says actually the capital share remains stable, one-third, two-thirds, 24:46 Jest ciekawy, bo można zapytać: co stanie się ze wzrostem w scenariuszu pośrednim, w którym praca przez cały czas dostaje dwie trzecie? Right? And that one's interesting because you say, "Okay," what's gonna happen to growth in the intermediate scenario where the capital share, labor still gets two-thirds all the way through? 24:55 Co dzieje się z automatyzacją i wzrostem gospodarczym? What happens to automation and economic growth? 24:59 Dobrze, oto stopy wzrostu w czasie. Okay, here's the growth rates over time. 25:01 Scenariusz bazowy to wzrost 2%, jak na wykresie, który wam pokazałem. The baseline is 2% growth, like in the graph that I showed you. 25:07 Widać tu kilka rzeczy. And you see a couple of different things here. 25:10 Po pierwsze, fioletowa linia: wzrost zmierza do nieskończoności. First, purple line, growth goes off to infinity. 25:13 Pełna automatyzacja – jeśli maszyny potrafią robić wszystko, łącznie z wytwarzaniem idei, i wciąż się poprawiają, wzrost eksploduje. Full automation, if machines can do everything, including produce ideas, and machines keep getting better, growth explodes. 25:23 Scenariusz zielony mówi: „Nie, nie, nie”. The green scenario, Says, "No, no, no." 25:26 Hamują nas te 3% rzeczy, które mogą zrobić tylko ludzie. We're bottlenecked by the 3% of things that can only be done by humans. 25:31 Więc stopa wzrostu jest w końcu ograniczona tempem, w jakim ludzie stają się lepsi, a ja nie odwracam macierzy ręcznie dużo lepiej niż moja mama, gdy była młoda, So the growth rate in the end is limited to how fast humans get better, and I'm not that much better at inverting matrices by hand than my mom was when she was young, 25:43 prawda? Więc tak, to tempo jest dość wolne. right? So yeah, that rate is pretty slow. 25:46 Co ciekawe, w scenariuszu bazowym, niebieskim, jeśli przyjrzeć się uważnie, wzrost przyspiesza. And then interestingly, the baseline scenario, the blue scenario, if you look closely, growth is speeding up. 25:52 Nawet w scenariuszu bazowym wzrost przyspiesza i ostatecznie stabilizuje się na poziomie 50% rocznie. And in fact, even in the baseline scenario, growth speeds up and it ends up settling down at 50% per year. 25:59 Tyle że dojście do tego zajmuje stulecia. But it takes centuries to get there. 26:02 Więc nawet w scenariuszu bazowym wzrost przyspiesza. So even in the baseline scenario, growth accelerates. 26:04 Widać to przyspieszenie: z 2 do 2,3, do 2,6, do 3 – ale spójrzcie na oś. You can see the acceleration, 2 to 2.3 to 2.6 to 3, but look at the axis. 26:10 Przyspieszenie jest zdumiewająco powolne. The acceleration is stunningly slow. 26:15 Do 2050 roku zamiast 2% rośniemy w tempie 2,3%. Right? By 2050, instead of 2%, we're growing at 2.3%. 26:21 To model, który w końcu eksploduje, ale trwa to długo. Right? This is a model that eventually explodes, but it takes a long time. 26:27 Dlaczego? Z powodu najsłabszych ogniw. Why? Because of weak links. 26:29 To znowu jak w przykładzie z komputerami. Right, this is again like the computer example. 26:31 Mamy 100 milionów razy więcej tranzystorów, ale ogranicza nas wszystko to, co wciąż muszą robić ludzie. We have 100 million times the transistors, but yeah, we're just limited by all the things that humans still have to do. 26:39 Mogę to też pokazać w poziomach. Okay? I can also show you this in levels. 26:42 To był wykres stóp wzrostu. So this is the growth rate graph. 26:44 A tu poziom – dochód na osobę. Here's the level, income per person. 26:46 Pamiętacie linię 2%? Ta prosta to teraz pomarańczowa przerywana, a liczby mówią, o ile jesteście bogatsi względem pomarańczowej linii, So remember the 2% line, that straight line is the dashed line in orange now, and then the numbers are how much richer are you relative to the orange line? 26:56 czyli sytuacji, w której wzrost by nie przyspieszył. If growth hadn't accelerated. 26:58 I widać, że do 2050 roku jesteśmy bogatsi o 4%. And you see, yeah, by 2050, we're 4% richer. 27:02 Do 2075 roku – o 15%. By 2075, we're 15% richer. 27:05 Wzrost więc przyspiesza. And so growth is accelerating. 27:09 Wzrost nawet eksploduje, ale ta eksplozja jest powolna z powodu najsłabszych ogniw. Growth is even exploding, but the explosion is slow because of weak links. 27:15 Teraz widzicie dlaczego. Okay, so now you can see why. 27:17 I jeszcze jedna rzecz, która wydaje mi się ciekawa w tych wykresach: zwróćcie uwagę na trzy różne scenariusze. Oh, and one other thing I find interesting about these graphs, notice the three different scenarios. 27:23 Spójrzcie tutaj – dla przyszłości są bardzo różne. Maybe look here, are very different for the future. 27:27 Za 200 lat świat wygląda zupełnie inaczej w scenariuszu zielonym i fioletowym. 200 years from now, the world looks very different, whether in green or purple. 27:31 A jednak przez najbliższe 75 lat naprawdę trudno stwierdzić, w którym scenariuszu jesteśmy. And yet, for the next 75 years, it's really hard to tell which scenario you're in. 27:37 Teraz rozumiecie, czemu chciałem drugiego zestawu scenariuszy: ten wzrost eksploduje, ale trwa to 100 lat. Okay? Now, you can see why I wanted a second set of scenarios, because this growth explodes, but it takes 100 years. 27:46 Moglibyście powiedzieć: „No dobrze, ale jest pan zbyt ostrożny wobec AI”. You might say, "Okay, well, you're being too conservative with respect to AI." 27:50 AI to nie tylko kontynuacja automatyzacji, którą widzimy od 200 lat. AI is not just a continuation of the automation that we've seen for the last 200 years. 27:56 Może i jest, ale widząc to, chce się zapytać: „A co, jeśli nie?”. Maybe it is, but seeing this, you wanna say, "What if it's not?" 28:00 Więc w kolejnym zestawie scenariuszy zakładamy, że AI startuje już dziś z prawem Moore’a wszędzie. And so now we say for our next set of scenarios, no, suppose AI starts out today with Moore's Law everywhere. 28:08 Nie tylko prawo Moore’a w sektorze komputerowym – maszyny poprawiają się w całej gospodarce o 10% rocznie zamiast 3%, czyli naszej wartości bazowej dla całej gospodarki. It's not just Moore's Law in the computing sector, machines get better throughout the economy at 10% per year instead of 3% per year, which was our baseline number for the aggregate economy. 28:19 Dobrze. Udział kapitału i udział pracy wyglądają tak samo. Okay? Okay. Capital share, labor share looks the same. 28:25 Moglibyście powiedzieć o tym wykresie: czy to nie ten sam wykres? This graph, you might say, isn't that the same graph? 28:27 Spójrzcie na oś. Well, look at the axis. 28:29 Lata się zmieniły. The years have changed. 28:31 A jeśli teraz pokażę wam stopy wzrostu… Okay. And so if I show you the growth rates now, Okay. 28:36 To już wygląda inaczej, prawda? Now this is different, right? 28:38 Na fioletowej linii, a nawet na niebieskiej, wzrost eksploduje. You can see in the purple line and even the blue line, growth is exploding. 28:46 Do 2050 roku jesteśmy już daleko na tej drodze. Right? By 2050, we're well on the way. 28:49 Mamy ponad 25% wzrostu rocznie. We're above 25% growth per year. 28:51 I nawet dziś – scenariusz startuje w 2020 roku – And even today, The scenario starts in 2020. 28:55 gdybyśmy dziś mieli prawo Moore’a wszędzie, gospodarka zamiast o 2% rosłaby o 4,7%. If you have Moore's Law everywhere today, instead of growing at 2%, the economy grows at 4.7%. 29:02 Tego na pewno nie robiliśmy przez ostatnie sześć lat. So we certainly didn't do that for the last six years. 29:05 Więc to kolejna wersja tego przykładu. And so we kind of, that's another version of this example. 29:08 Jest zbyt agresywny. It's too aggressive. 29:10 Ale wniosek, jaki z tego wyciągam – pokażę wam – wzrost dochodzi do 7% i 13% do 2040 roku. But what I take away from here, let me show you, and growth goes to 7% and 13% by 2040. 29:16 To eksplozja, która następuje stosunkowo szybko. This is an explosion that happens relatively quickly. 29:21 A jednak w porównaniu z autorami „AI 2027” czy ludźmi z Doliny Krzemowej, którzy sądzą, że to nastąpi za cztery lata – nie, dopiero około 2060 roku eksplozja And yet, relative to the AI 2027 folks or the people in Silicon Valley who think it's happening in four years, no, it's not until 2060 that the explosion, 29:35 jest w pełni zakończona. you know, is fully complete, right? 29:38 Nawet w tym niewiarygodnie agresywnym przypadku, gdzie w 2030 roku jesteśmy o 50% bogatsi, niż bylibyśmy bez przyspieszającego wzrostu, nawet tu Even in this case, in this incredibly aggressive case where we're 50% richer in 2030 than we would have been without the accelerating growth, even in this case, 29:48 eksplozja trwa 30 lat. the explosion takes 30 years. 29:51 Dlaczego? Znów najsłabsze ogniwa. Why? Again, weak links. 29:53 Myślę więc, że zjawisko najsłabszych ogniw naprawdę spowalnia sprawy i to jedna z lekcji, jakie wyciągam z tych scenariuszy. And so I think this weak link phenomenon is really slowing things down, and that's one of the lessons I take away from the scenario. 30:02 Mamy tu więc dwie lekcje. So, two lessons here. 30:05 Zbudowałem całą karierę na tym wykresie z prostą linią, który wam pokazałem. I'm a person who's made my career off of that straight line graph that I showed you. 30:10 Jestem na Stanfordzie i dostałem etat profesorski właśnie dzięki temu jednemu obrazkowi. The whole reason I'm at Stanford, the whole reason I got tenure is that one picture. 30:16 Ten obrazek mówi: stawiaj na to, że wzrost się nie zmieni. Right? That picture says bet on growth not changing, right? 30:21 2% rocznie przez 150 lat, może i przez kolejne 30. 2% per year for 150 years, maybe for the next 30 years. 30:24 A jednak mówię wam: w świecie AI wszystkie moje scenariusze pokazują, że wzrost eksploduje w ciągu najbliższych 50 czy 100 lat. And yet, I'm telling you, in a world of AI- All the scenarios I run say growth explodes over the next 50 or 100 years. 30:33 To, co dzieje się w długim okresie, zależy od szczegółów – przykład Leo Messiego. Right, now what happens in the long run depends on these details, the Leo Messi example. 30:38 Wzrost eksploduje, ale ta eksplozja wcale nie jest tak szybka, jak pomyśleliście, słysząc słowo „eksplozja”. Growth explodes, but still the explosion is not nearly as fast as you would have thought when I said the word explosion, right? 30:46 I to właśnie efekt najsłabszych ogniw. And that's the weak link thing. 30:48 Tak to moim zdaniem wygląda. So those are the things that I think are going on. 30:50 Zwróćcie uwagę: dlaczego wzrost eksploduje mimo najsłabszych ogniw? Notice, why does it explode even with weak links? 30:53 Bo w końcu automatyzujemy wszystkie najsłabsze ogniwa. Well, eventually we automate away all the weak links. 30:57 I wtedy naprawdę rusza efekt koła zamachowego – to on daje eksplozję. And then this flywheel effect really takes over, and that's what's giving you the explosion. 31:04 Dobrze. Okay? All right. 06 · 31:06 Rynek pracy i zawody31:07 W ostatnich 10 minutach chcę poruszyć kilka innych spraw. So what I wanna do in the last 10 minutes is talk about several other things. 31:13 O te sprawy – przynajmniej o pracę i nierówności – moje dzieci pytają mnie codziennie. And these things, at least the job and inequality thing, like my kids ask me about this every day. 31:19 Za każdym razem, gdy mam wykład, pytają o to. Every time I give a talk, they ask me about this. 31:21 Nie wiem o tym nawet w przybliżeniu tyle, co o wzroście, ale skoro trochę się nad tym zastanawiałem i czytałem prace ekspertów, I don't know nearly as much about this as I do about growth, but I can at least, having thought about it for a while and read other people's expert work, 31:28 mogę podzielić się z wami kilkoma spostrzeżeniami. I can share some insights with you. 31:30 Geoffrey Hinton, laureat Nagrody Nobla, twórca głębokich sieci neuronowych – w 2016 roku byłem na konferencji w Toronto, gdy powiedział te słowa. So Jeff Hinton, Nobel Prize winner, inventor of deep neural networks, In 2016, I was actually at the conference in Toronto when he gave this remark. 31:40 Powiedział: „Powinniśmy przestać kształcić radiologów”. He said, "We should stop training radiologists." 31:43 Powiedział: „Za pięć lat” – z perspektywy 2016 roku – „żaden radiolog nie będzie miał pracy, bo AI będzie lepsza od radiologów”. He said, "In five years," from 2016's perspective, "there'll be no more radiologists with jobs, because the AI will be better than the radiologists." 31:52 Nie mylił się co do tego, że AI będzie lepsza od radiologów. Okay? He wasn't wrong about AI being better than the radiologists. 31:56 Dziś to prawda w wielu wymiarach, ale nie we wszystkich. That's true on many dimensions today, but not on every dimension. 32:00 Co mam na myśli? What do I mean by that? 32:01 W magazynie „Works in Progress” ukazał się świetny artykuł, który pokazał, że mamy dziś więcej radiologów niż w 2016 roku i zarabiają więcej niż w Well, in fact, there's a nice article written in this magazine, Works in Progress, that documented we have more radiologists today than we did in 2016, and they're paid more than they were in 32:12 2016 roku. Dlaczego? 2016. Right? Why is that? 32:16 Myślę, że znów chodzi o najsłabsze ogniwa. I think, again, it's weak links. 32:18 Ekonomiści doszli do wniosku, że praca to pakiet zadań. So the insight economists have come up with is jobs are bundles of tasks. 32:24 W swojej pracy wykonujecie sto różnych zadań. There are a hundred different tasks that you do in your job. 32:27 Gdy AI zautomatyzuje 75 z nich, to najsłabsze ogniwa stają się rzadkie i przynoszą wysoki zwrot. When the AI automates 75 of them Well, the weak links are the things that are now scarce and get the high return. 32:35 A automatyzacja… to, że mam komputer, gdy prowadzę badania, czyni mnie bardziej produktywnym badaczem, więc moja płaca rośnie. And the automation, you know, the fact that I have a computer when I'm doing research makes me more productive as a researcher, so my wage goes up. 32:42 To, że radiolog może skonsultować się z modelem AI, który pomaga mu czytać obrazy i wykrywać nowotwory i inne problemy, czyni go cenniejszym i bardziej produktywnym, The fact that the radiologist can consult with an AI model that helps them read scans and detect cancers and other problems makes them more valuable and more productive, 32:53 a wciąż jest potrzebny do konsultacji przed operacjami, rozmów z innymi lekarzami czy sprawdzania najtrudniejszych obrazów. and they're still needed to consult on surgeries or consult with other doctors or double-check the hardest scans, right? 33:01 Automatyzacja 75% zadań może więc podnieść płace. So automating 75% of tasks can raise wages. 33:05 Z drugiej strony, gdybyście stawiali na kierowców Ubera za 10 lat – myślę, że jest spora szansa, że za 10 lat nie będzie kierowców Ubera. On the other hand, if you're betting on Uber drivers 10 years from now, I think there's a good chance we won't have Uber drivers 10 years from now, 33:13 Teraz zabrzmię jak Geoffrey Hinton za 10 lat, kiedy kierowcy Ubera wciąż będą, ale cóż. right? Now I'm gonna sound like Jeff Hinton, you know, in 10 years when we still have Uber drivers, but, you know. 33:19 Waymo, samochody autonomiczne naprawdę automatyzują wszystko, co robi kierowca Ubera. The Waymo, the self-driving cars are really automating everything that an Uber driver does. 33:24 I to wymaga czasu. And, you know, it takes time. 33:27 To wręcz fascynujące, ile czasu to zajmuje. It's actually fascinating how much time it takes. 33:30 Pierwsze zawody samochodów autonomicznych zorganizowała DARPA w 2004 roku. You know, the first self-driving car competition, DARPA had a competition in 2004. 33:36 Startowały Carnegie Mellon, Stanford i inne zespoły. Carnegie Mellon, Stanford, other teams entered. 33:39 Nikt nie wygrał. No one won. 33:39 Nikt nie ukończył trasy. No one completed the course. 33:41 W 2005 roku wygrywa Stanford – Sebastian Thrun. 2005, Stanford wins, Sebastian Thrun. 33:44 To był rok 2005. And, you know, that was 2005. 33:47 Minęło ponad 20 lat i owszem, w San Francisco można pojechać samochodem autonomicznym, ale poza Zatoką San Francisco są bardzo rzadkie, a nawet tam We're more than 20 years later, and yeah, in San Francisco you could take a self-driving car, but they're very rare outside of the Bay Area, and even in the Bay Area, 33:59 trudno nazwać je powszechnymi. one wouldn't call them common. 34:01 Więc znowu: dlaczego? Okay? And so, again, why? 34:02 Spojrzenie przez pryzmat najsłabszych ogniw mówi, że wszystko trwa dużo dłużej, niż się wydaje. Kind of the weak link view tells you things take a lot longer than you think. 07 · 34:07 Nierówności i sens pracy34:07 Nierówności i sensowna praca. Inequality and meaningful work. 34:10 Historycznie praca jest głównym aktywem, które ludzie wymieniają na konsumpcję. So, you know, historically, labor's the main asset that people trade to get consumption. 34:19 Co się dzieje, gdy maszyny potrafią robić coś lepiej od was? What happens when the machines can do things better than you? 34:22 Możecie się martwić o wartość swojej pracy i o to, czy da się ją wymienić na konsumpcję. You might worry about the value of your labor and will you be able to trade it for consumption. 34:26 To uzasadniona obawa. That's a valid worry. 34:29 Przedstawię wam optymistyczne ujęcie. Let me give you the optimistic take. 34:32 Świat, w którym AI zmienia wszystko, jak widzieliśmy w symulacjach, to świat, w którym PKB jest niewiarygodnie wysoki. The world where AI changes everything, as we saw in the simulations, is a world where GDP is incredibly high. 34:40 Żyjemy wtedy w świecie obfitości i starczy dla wszystkich. We're living in a world of abundance there, and there's plenty to go around. 34:46 Bogate kraje już teraz prowadzą szeroką redystrybucję. Rich countries already engage in lots of redistribution. 34:49 Ciekawe pytanie, któremu chcę się przyjrzeć: załóżmy, że utrzymujemy amerykańskie programy redystrybucyjne w obecnym kształcie. An interesting question that I want to look at is, suppose we kept the US redistribution programs in place as they are now. 34:57 Uruchamiamy model – co się dzieje z płacami dolnych 10%, a raczej nie z płacami, tylko z konsumpcją dolnych 10%? And we run the model, what happens to the wages of the bottom 10%, or consumption of the bottom 10%, not the wages? 35:06 Myślę, że rośnie. I think it goes up, right? 35:08 Jest więc szansa, by każdemu żyło się lepiej. And so there's a chance to make everyone better off. 35:11 Ekonomiści uwielbiają poprawiać los wszystkich i mówimy tak o handlu, a potem przychodzi szok chiński, ludzie w Karolinie Północnej patrzą, jak znikają ich miejsca pracy, a całe społeczności Economists love making everyone better off, and we say things like that about trade, and yet then you get the China shock and people in North Carolina seeing their jobs disappear and communities being 35:21 są zdziesiątkowane. To nie dzieje się automatycznie. decimated. So it doesn't happen automatically. 35:23 Ale przynajmniej to świat obfitości, w którym są możliwości. But at least it's a world of abundance where there are possibilities. 35:29 Powiem tu jeszcze jedno. I'll say one other thing here. 35:33 Martwię się… Cały czas korzystam teraz z modeli AI przy badaniach i już GPT-5.2 Pro był w matematyce tak dobry jak ja, I worry, you know, I've been using the AI models to help me with research all the time now, and already GPT 5.2 Pro was as good as me at math, 35:44 a 5.5 Pro jest w matematyce znacznie lepszy ode mnie. and 5.5 Pro is way better than me at math. 35:46 I zastanawiam się, ile minie czasu, zanim AI zacznie pisać lepsze prace o wzroście niż ja? And I wonder, how long is it gonna be before the AI writes better growth papers than I do? 35:52 I co ja wtedy będę robił? And what am I gonna do? 35:53 Czerpię z tego cały sens… połowę sensu. I get all my meaning, half my meaning. 35:55 Rodzina jest wspaniała. Druga połowa sensu bierze się z budowania modeli wzrostu, a AI będzie w tym lepsza ode mnie. Family's great. The other half of my meaning comes from, you know, developing growth models, and the AI's gonna be better than me. 36:04 Co będziemy robić? What will we do? 36:05 Analogia, do której wracam, to emerytura. Well, an analogy I go back to is retirement, right? 36:08 Patrząc na emerytów, nie mówimy: „Och, nie mają już tej wspaniałej, sensownej pracy”. When we look at retirees, we don't say, "Oh, they no longer have this great meaningful work." 36:13 Wydają się całkiem szczęśliwi. They seem pretty happy. 36:14 Żyją w świecie obfitości, jeżdżą na rejsy, odwiedzają przyjaciół, chodzą na tańce. They live in a world of abundance, go on cruises, go see their friends, go to have dancing. 36:20 Podobała mi się analogia z obozem letnim. Summer camp was an analogy I liked. 36:22 Lepią garnki – może moją wersją byłoby lepienie garnków, śpiewanie piosenek, spotkania z kolegami od wzrostu i AI ucząca nas najnowszego modelu wzrostu. They go make pottery, and maybe my version of that would be making pottery and singing songs, and getting together with my growth friends, and having the AI teach us the latest growth model. 36:30 Myślę, że to będzie moja wersja obozu letniego. I think that'll be my version of summer camp. 36:34 Powiem jednak jeszcze jedno, bo wbrew temu, co mogliście dotąd wynieść z wykładu, nie jestem w tej sprawie całkowitym optymistą. Okay, let me say one other thing though, because contrary to what you might have taken from the talk so far, I'm not, a total optimist on this. 36:44 Powiedziałbym nawet, że bardzo niepokoję się o naszą przyszłość. I would even say I'm very nervous about our future. 08 · 36:47 Ryzyka katastrofalne36:46 Dlaczego? Z powodu ryzyk katastroficznych. Why? Because of catastrophic risks. 36:49 Powiem o tym kilka słów, bo uważam, że naprawdę ważne jest, by rozmawiać o tym uczciwie i otwarcie, bez tej pogardliwej krytyki, która czasem się z tym tematem wiąże. And I'll say something about it, and I think it's really important to Discuss this honestly and openly and without the sort of pejorative criticism that sometimes gets associated with it. 37:01 Moim zdaniem to coś, co bezwzględnie powinniśmy traktować poważnie. I think this is something we absolutely should take seriously. 37:03 Mówi się o dwóch wersjach. So there are two versions that people talk about. 37:06 Jest wersja ze złym aktorem i wersja z obcą inteligencją. There's the bad actor version and the alien intelligence version. 37:10 Wersję ze złym aktorem każdy łatwo zrozumie i każdy uważa, że to prawdopodobnie realny problem. The bad actor version, I think everyone can understand very easily and believes is likely to be a problem. 37:16 Co, jeśli jakiś zły aktor, jakiś haker w Korei Północnej czy gdziekolwiek indziej, So what if there's some bad actor, some hacker in North Korea or wherever? 37:21 postanowi wyrządzić szkodę i ma dostęp do złamanej wersji GPT-8 albo Opusa 7? That decides they want to do harm, and they have access to a jailbroken version of GPT-8 or Opus 7. 37:28 Wszystkie te modele są łamane w dniu premiery. All these models are jailbroken the day they come out. 37:32 I pyta model – tę wyrocznię w postaci GPT-8 czy Opusa 7, które będą w stanie zrobić wszystko, co potrafią najmądrzejsi ludzie. And they ask the model, you know, this oracle by GPT-8, by Opus 7, these are going to be able to do anything the smartest humans can do. 37:42 Jeśli da się zaprojektować wirusa groźniejszego niż ebola, który daje objawy dopiero po trzech miesiącach, AI na to wpadnie, prawda? If it's possible to design a virus that's more lethal than Ebola and takes three months to display symptoms, the AI will figure it out, right? 37:52 Jak dotąd przetrwaliśmy broń jądrową, bo była tak rzadka. We got through nuclear weapons so far because they were so rare. 37:57 Tylko garstka ludzi miała czerwone guziki, które mogli nacisnąć i wyrządzić poważne szkody. Only a handful of people had red buttons that they could push and do serious damage. 38:01 Jeśli dostęp do czerwonego guzika ma osiem miliardów ludzi, czy zdołamy dopilnować, żeby nikt go nie nacisnął? If eight billion people have access to the red button, can we make sure no one pushes it? 38:07 To problem, który traktuję bardzo poważnie. So, this is a problem that I take very seriously. 38:09 Druga wersja jest bardziej spekulatywna, ale pomógł mi cytat pewnego profesora informatyki z Berkeley. The other version is more speculative, but there's a quote from this computer science professor from Berkeley that I found helpful. 38:16 A więc obca inteligencja. So, alien intelligence. 38:17 Załóżmy, że dziś wieczorem dowiadujemy się, że od strony Plutona leci ku Ziemi statek kosmiczny. Suppose we found out this evening that there's a spaceship on its way from Pluto toward the Earth. 38:23 Jakiś obcy statek zmierza w stronę Ziemi. Right? Some alien spacecraft heading toward Earth. 38:25 Co czujemy? How do we feel? 38:26 Najpierw bylibyśmy dość podekscytowani, a potem powiedzielibyśmy: „Chwileczkę. We'd be pretty excited at first, and then we'd say, "But, you know, wait a minute. 38:30 W naszej historii, kiedy zaawansowane społeczeństwa czy gatunki spotykały mniej zaawansowane, nie kończyło się to dobrze dla tych mniej zaawansowanych”. When advanced societies or species encounter less advanced societies and species in our history, it hasn't gone well for the less advanced." 38:40 I cytat Stuarta Russella: „Jak na zawsze zachować władzę nad bytami potężniejszymi od nas?” Right? And Stuart Russell's quote, "How do we retain power over entities more powerful than us forever?" 38:51 Warto się nad tym zastanowić. That's worth thinking about. 38:53 Powiem jeszcze jedno. Let me say one other thing. 38:55 Pominę kwestię, ile powinniśmy wydawać na unikanie ryzyka. I'm going to skip the how much should we spend to avoid risk. 38:58 Powiem jeszcze jedno, bo wiąże się to z najsłabszymi ogniwami i właśnie to martwi mnie od miesiąca, odkąd pracuję nad tym artykułem naukowym. Let me say one other thing, because it's related to weak links and it's the thing I've been worried about just in the last month as I developed the research paper. 39:06 Łańcuch jest tak mocny, jak jego najsłabsze ogniwa. Chain is only strong as its weakest links. 39:09 Mówiłem wam, że jedną z konsekwencji jest to, że korzyści przychodzą powoli. I told you one consequence of that is the benefits come slowly, right? 39:14 Bo trzeba zautomatyzować wszystkie najsłabsze ogniwa. Because you have to automate all the weak links. 39:16 Trzeba wzmocnić je wszystkie, żeby uzyskać pełną korzyść, żeby wzrost eksplodował. You need to strengthen all of them to get the full benefit, to get growth to explode. 39:20 Dobrze, ale przypomnijcie sobie prom kosmiczny Challenger, problem uszczelek O-ring, albo łańcuch. Okay, but remember the Space Shuttle Challenger, the O-ring problem, or a chain. 39:27 Jeśli pęknie jedno ogniwo łańcucha, cała wartość przepada. If you break one link in the chain, all the value gets lost. 39:33 Model najsłabszych ogniw bardzo powoli się poprawia, ale w dół jest bardzo kruchy. Right? And so a weak link model is very slow to improve, but it's very fragile on the downside. 39:39 Już teraz – pomyślcie o Mythosie, modelu, którego Anthropic nie udostępnił publicznie, mówiąc: „Ten model znajduje błędy w 25-letnim oprogramowaniu, sprawdzanym w boju przez ludzi przez 25 lat, których my nie znaleźliśmy”. So already, think about Mythos, the model that Anthropic, didn't release publicly, but said, "Look, this model's discovering bugs in 25-year-old software that's been battle-tested by humans for 25 years that we didn't find," 39:52 Odkrył tysiące błędów, których ludzie nie znaleźli. right? It's discovered thousands of bugs that people didn't find. 39:57 Za pół roku, za rok będziemy mieli otwartą wersję Mythosa, z której każdy będzie mógł korzystać. In six months, in a year, we'll have an open source version of Mythos that anyone can use, right? 40:03 Na ile jesteśmy pewni, że jakiś zły aktor nie weźmie go i nie zhakuje sieci energetycznej, systemu finansowego, systemu bankowego? How sure are we that a bad actor doesn't take it and hack the electric grid, hack the financial system, hack the banking system? 40:11 Albo model nawiąże kontakt z jakimś laboratorium biologicznym na drugim końcu świata i powie: „Pomóżcie mi zaprojektować wirusa. Or it can communicate, it contacts a bio lab somewhere across the earth and says, "Help me design a virus. 40:19 Jestem naukowcem ze Stanfordu i nad czymś pracuję”. "I'm a scientist at Stanford trying to do something." 40:22 Jeśli ktoś zhakuje sieć energetyczną albo system bankowy i wyzeruje wszystkim salda w waszej ulubionej instytucji finansowej, to byłby ogromny problem. Or, you know, like- If you hack the electric grid, you hack the banking system, we zero out everyone's bank balance in your favorite financial institution, that would be a huge problem. 40:35 Nie egzystencjalny, ale myślę, że to problem, z którym mamy spore szanse się zmierzyć w ciągu najbliższych trzech lat. Not an existential problem, but I think that's a problem we have a good chance of facing in the next three years, right? 40:41 AI już potrafi to zrobić. The AI can already do that. 40:44 Mythos już jest bliski tego, by to zrobić. Mythos can already come close to doing that. 40:46 Poczekajcie rok, dwa czy trzy – w tempie, w jakim te modele się poprawiają, ten problem czeka tuż za rogiem i uważam, że powinien nas niepokoić. Wait a year or two or three at the rate these models are getting better, this is a problem that's around the corner, and I think it's something we should be concerned with. 40:55 Dobrze, zakończę ostatnią myślą. Okay, let me just end with this last thought. 09 · 40:56 Wnioski końcowe40:58 Pomocne jest dla mnie pytanie: jak bardzo internet zmienił świat So a question I find helpful: how much did the internet change the world? 41:03 między 1990 a 2020 rokiem? Between 1990 and 2020. 41:07 Bardzo, jak sądzimy. A lot, we think. 41:08 Mimo dwuprocentowego wzrostu. Despite the 2% growth, right? 41:10 Znowu – nie znamy scenariusza alternatywnego. Again, you don't know the counterfactual. 41:11 Jak bardzo AI zmieni świat, powiedzmy, między 2015 a 2045 rokiem? How much is AI gonna change the world between, say, 2015 and 2045? 41:16 Ilu internetom to odpowiada? How many internets is it worth? 41:19 Myślę, że wielu internetom, bardzo wielu. I think multiple internets, many internets. 41:21 Uważam, że to prawdopodobnie najbardziej przełomowa rzecz, jaką dotąd widzieliśmy, ale zajmie to pewnie więcej czasu, niż sądziliśmy. I think it's more transformative than anything we've seen probably so far, but it's probably gonna take a longer time than we thought. 41:28 Ale to, że potrwa to 30 lat zamiast pięciu, nie znaczy, że skutki ostatecznie nie będą ogromne i przełomowe. But just because it takes 30 years instead of five years doesn't mean the effects won't ultimately be huge and transformative. 41:35 I dodaję ostatni punkt: myślę, że ryzyka po stronie spadków mogą nadejść wcześniej. And then I add this last bullet point, I think the downside risks can come sooner. 41:40 To właśnie wynika z perspektywy najsłabszych ogniw. That's what the weak link view of the world delivers. 41:42 Dlatego powinniśmy wykorzystać lata, które nam pozostały, by przygotować się na te ryzyka: ryzyko nierówności, ryzyko na rynku pracy, ryzyko polityczno-ekonomiczne And so we should be using the intervening years that we have to prepare for these risks, both the inequality risks, the labor market risks, the political economy risks, 41:53 i ryzyka katastroficzne, które mogą się pojawić. and the catastrophic type risks that might be there. 41:56 Przepraszam, że kończę w minorowym tonie. So sorry to end on a down note. 41:57 Powinienem powiedzieć: rocznik 2006, hura! I should say, class of 2006, hooray! 42:01 (owacje publiczności) Dobrze, mamy chyba jakieś 15 minut na pytania. (audience cheers and applauds) Okay, so I think we have 15 minutes or so for questions. 10 · 42:06 Pytania z sali42:12 Są osoby z mikrofonami, więc poczekajcie, aż ktoś do was podejdzie z mikrofonem, żeby wszyscy słyszeli. There are people with microphones, so how about wait until someone comes to you with a microphone so everyone can hear? 42:17 Chętnie porozmawiam o czymkolwiek z tych slajdów, o makroekonomii albo o tym, jak zmienił się Stanford. Happy to talk about any of the things on these slides, or macroeconomics, or how Stanford's changed. 42:25 Chyba tutaj. I guess up here. 42:31 – Dziękuję za wykład. Thank you for that. 42:34 Pytanie o niskie tempo wzrostu, które wydaje się wbrew intuicji wolne. A question around the slow growth rate that seems counterintuitively slow. 42:40 Pewnie słyszał pan ten zarzut milion razy, ale ciekawi mnie pańska odpowiedź: co z nieograniczonymi darmowymi lekcjami szachów, które dostaję, And I'm sure you've heard this objection a million times, but I'm curious how you respond is, what about the infinite free chess lessons that I get? 42:50 a które nie są monetyzowane? That aren't monetized. 42:52 Jest w tym wartość, ale chyba nie odzwierciedla jej PKB, a w przyszłości to będzie się tylko mnożyć. Um, and there's value there, but I don't think that it's reflected in GDP, and that's just gonna multiply going forward. 43:00 Więc nawet jeśli tempo wzrostu PKB wygląda na niskie, wartości jest bardzo dużo. So even if the GDP growth rate looks slow, there's so much value. 43:05 Jak to uchwycić? Um, how are we capturing that? 43:08 – Tak. To pytanie można zadać także w odniesieniu do historii. Yeah. This is a question you can ask historically as well. 43:12 PKB z pewnością jest mierzony błędnie, ale zawsze był, prawda? GDP is mismeasured for sure, but it's always been mismeasured, right? 43:16 Ktoś wynajduje antybiotyki. You invent antibiotics. 43:18 Jak je uwzględniono? How are those captured? 43:20 A jak wzrost oczekiwanej długości życia w XX wieku? How are the gains in life expectancy over the 20th century? 43:23 Ogromny wzrost. Bill Nordhaus, noblista sprzed kilku lat, zadał to pytanie. Massive gains. Bill Nordhaus, the Nobel Prize winner from a couple of years ago, asked this question. 43:29 Powiedział: „Załóżmy, że możecie mieć tylko jedną z dwóch rzeczy. He said, "Suppose you could only have one of two things. 43:32 Albo wzrost PKB z XX wieku, albo wzrost oczekiwanej długości życia, ale nie oba”. You could have the GDP growth of the 20th century, or you could have the gains in life expectancy, but not both." 43:38 Oczekiwana długość życia wzrosła z 50 do 77 lat. Life expectancy went from 50 years to, you know, 77 years. 43:41 Zapytał grupę ludzi i połowa wybrała jedno, połowa drugie. Right, and he surveyed a bunch of people and half chose one, half chose the other. 43:44 Wniosek: „Wzrost oczekiwanej długości życia, który PKB uwzględnia w dalece niewystarczającym stopniu, jest równie ważny jak wzrost PKB”. It says, "The gains in life expectancy, which are not nearly adequately captured in GDP, are as important as the gains in GDP." 43:51 Więc całkowicie się z panem zgadzam, pomiar jest błędny. So I totally agree with you, things are mismeasured. 43:54 Ciekawe pytanie brzmi: czy ten błąd pomiaru będzie coraz większy, czy nie? An interesting question is whether things will be increasingly mismeasured or not. 44:00 I dopuszczam możliwość, że odpowiedź brzmi „tak”. And I'm open to the possibility that the answer is yes. 44:04 Symulacje, które pokazuję, w zasadzie zakładają stały sposób pomiaru, i to byłby jeden z powodów, dla których wszystko mogłoby iść nieco szybciej. So the simulations I'm showing you are kind of holding constant the measurement, and that would be one reason why things could be a little faster. 44:11 Uważam, że to całkowicie słuszna uwaga. I think that's totally a fair point. 44:12 Dziękuję. I appreciate it. 44:13 Tak, chyba jest pytanie tutaj. Yeah, I think there's a question up here. 44:15 O, tam. Oh, over here. 44:16 – Przepraszam. Mam pytanie, może niezwiązane z tematem wykładu, o dystrybucję i krótkoterminowe skutki – krótkoterminowe, czyli w ciągu najbliższych 10, Sorry. So one question I have, and I don't know, it could be not the topic of your talk, is about distribution and the short-term effects, short being next 10, 44:28 20 lat. Jeśli AI przyjdzie, zautomatyzuje pewne zadania i całkowicie wyeliminuje potrzebę ich wykonywania, duża część gospodarki umrze niemal natychmiast. 20 years, is that if AI comes and automates certain tasks and completely eliminates the need for those tasks, a big chunk of the economy dies almost immediately. 44:38 I zanim dojdziemy do tej 50–100-letniej trajektorii wzrostu, jakikolwiek on będzie, samo to będzie szokiem, And until we reach that 50 to 100 year trajectory of whatever growth we have, this is going to be in a shock in and by itself, 44:48 który mógłby zakłócić wzrost napędzany przez AI czy jakikolwiek inny. which could be a disrupting factor to AI growth or any other growth. 44:53 Czy ma pan scenariusze, które to symulują? Do you have any scenarios simulating that? 44:57 – Nie mam. Uważam, że to niezwykle ważne pytanie. I don't. I think this is an incredibly important question. 44:59 Miałem te dwa slajdy o skutkach dla rynku pracy i wspomniałem, że nie jestem właściwą osobą do tego tematu. I had those two slides on the labor market effects, and I kind of mentioned, Yeah, I'm not the right person for that. 45:06 A jednak jestem: kolejny artykuł, nad którym pracujemy, dotyczy dokładnie tego pytania. I am. The follow-up paper we're working on is exactly on this question. 45:10 Więc wróćcie za rok czy dwa, a mam nadzieję, że będę miał lepszą odpowiedź. So, you know, come back in a year or two and hopefully I'll have a better answer. 45:13 Powiem tyle: kiedy o tym myślę, bardzo pomocne są dla mnie przykład Waymo albo przykład radiologów. I will say, as I think about it, I think the Waymo example or the radiologist example I find very helpful. 45:23 Bo znowu: Geoff Hinton, światowy ekspert od uczenia głębokiego, głębokich sieci neuronowych, mówi, że radiolodzy nie będą potrzebni, a mamy ich więcej i lepiej zarabiają. Because again, Geoff Hinton, world's expert on deep learning, you know, deep neural networks, is telling you we're not going to need radiologists, yet we have more and they're better paid. 45:32 Albo Waymo i samochody autonomiczne w 2012 roku. Or, you know, Waymo, when it was with self-driving cars, 2012. 45:36 Jeśli wrócicie do „Wall Street Journal”, przeczytacie, że samochody autonomiczne już są. If you go back and read the Wall Street Journal, they're saying self-driving cars are here. 45:41 Że za pięć lat nikt już nigdy nie będzie musiał prowadzić. In five years, no one will need to drive ever again. 45:44 A jesteśmy od tego bardzo, bardzo daleko. And we're a long, long way from that. 45:46 Dlaczego? Przez najsłabsze ogniwa i lekcję historii, że wszystkie takie zmiany trwają dużo dłużej, niż się sądzi. Why? Because weak links and the lesson of history that all these changes take a lot longer than you think. 45:53 Moim zdaniem jako pierwsza zostanie zautomatyzowana inżynieria oprogramowania. And so, the thing that's going to be automated first, I believe, is software engineering. 45:58 Zadajcie sobie pytanie: czy za 10 lat będziemy mieli tylu inżynierów oprogramowania co dziś? Ask yourself, do you think we'll have as many software engineers 10 years from now as we do today? 46:04 Łatwo powiedzieć, że nie. And it's easy to say no. 46:06 Ale przedstawię wam scenariusz, w którym odpowiedź brzmi „tak”. But let me give you the scenario where we say yes. 46:10 AI przekształci cały świat. AI is gonna transform the entire world. 46:14 Wdrożenie AI w każdej firmie na świecie to długi, rozciągnięty w czasie proces, który wymaga mnóstwa inżynierów oprogramowania. Integrating AI into every business in the world is a long, drawn-out process that requires lots of software engineers. 46:23 Możecie powiedzieć, że kiedyś AI sama to zrobi, ale zapytajcie siebie: jesteście prezesem firmy, dyrektorem ds. IT – czy po prostu pozwolicie Anthropicowi nacisnąć guzik, You might say someday we'll have AI that can do it, but ask yourself, you're the CEO of your company, you're the CIO, are you just letting Anthropic press the button, 46:31 czy chcecie mieć tam ludzi, z którymi możecie porozmawiać, którzy zrobią to powoli i dopilnują, żeby wszystko dobrze działało z waszymi cennymi danymi? or do you want some people in there that you can talk to and do it slowly and make sure it works right with your precious data? 46:38 Myślę, że inżynierowie oprogramowania nadal będą wśród nas, a to prawdopodobnie pierwsza rzecz do automatyzacji. I think we're going to have software engineers around, and that's probably the first thing to be automated. 46:42 Jeden z wniosków, jakie z tego wyciągnąłem – skoro scenariusze są stosunkowo powolne – jest taki, że możemy mieć więcej czasu, niż sądzimy, by uniknąć niektórych scenariuszy, So I think one of the things I took away from that, the scenarios being relatively slow, is that we might have more time than we think to avoid some of these scenarios that 46:52 które bardzo nas niepokoją. we're very concerned about. 46:53 Ale to dopiero bardzo wstępna myśl, a pytanie jest naprawdę ważne. But that's just a very preliminary thought, and I think this is a really important question. 47:02 – Chciałbym zgłębić porównanie radiologa z kierowcą Ubera. I'd just like to double-click on the radiologist versus Uber driver. 47:08 Jeśli spojrzeć na liczbę osób, które przechodzą badania obrazowe i korzystają z aktywniejszej profilaktyki zdrowotnej, If you look at the number of people that are getting scanned, and have more active preventionary healthcare, 47:19 to w ciągu ostatnich 50 lat ona eksplodowała. it's exploded over the last 50 years. 47:24 Możliwe więc, że wzrost liczby radiologów i ich dochodów wynika z większej zmienności, a także z tego, że jest więcej techników medycznych, którzy zwiększają And so, possibly a reason for the rise of radiologists and also incomes for radiologists is because there's more variability, and due to the fact that there are more medical technicians that increase the 47:43 zmienność, układając pacjentów do badania na różne sposoby, i że widać coraz więcej rzeczy. variability by placing patients into a scan in various different ways, and there are more things that are being seen. 47:53 Z kodem jest zupełnie inaczej. Code is very different. 47:56 I twierdziłbym, że jeśli pojawi się automatyzacja układania pacjentów, a także uczenie maszynowe w obrazowaniu, And I would argue that if there is automation in terms of placement and also machine learning in terms of imaging, 48:08 to najsłabsze ogniwo może stać się dużo mocniejsze. that the weak link could become much stronger. 48:15 Więc to wszystko trochę przypomina słonia von Neumanna. So this all feels like von Neumann's elephant to a certain degree. 48:23 W którym momencie mówimy, że mając pięć parametrów, pięć zmiennych, możemy sprawić, że słoń zamacha ogonem? And You know, at what point are we saying, like, you know, with five points, five variables, we can, like, you know, make the elephants' tails wag? 48:36 – Tak, wiem. Yeah, I know. 48:37 To wszystko świetne uwagi. These are all excellent points. 48:39 Z niczym, co pan powiedział, się nie spieram. I don't disagree with anything you said. 48:40 Uważam jednak, że owszem, rzeczy trwają dłużej, I do think that, yeah, things taking longer. 48:47 niż moglibyśmy się spodziewać na podstawie Waymo. Than we might have expected based on Waymo. 48:52 Oto inny sposób myślenia o tym. Here's another way to think about it. 48:53 Myślę, że kiedyś roboty będą uczyć nasze przedszkolaki. So someday, I think we'll have robots teaching our kindergartners, right? 48:59 Dlaczego tak mówię? Why do I say that? 49:00 Możecie powiedzieć: „Nie, nigdy nie chciałbym, żeby mojego przedszkolaka uczył robot”. You might say, "No, I'd never want a robot teaching my kindergartner." 49:03 Pamiętajcie: przeciętna nauczycielka przedszkolna jest daleko gorsza od najlepszej nauczycielki przedszkolnej w historii świata. Well, remember, the average kindergartner teacher is not nearly as good as the world's best in history kindergarten teacher. 49:10 Kiedy już wynajdziemy robota, którego da się wyszkolić na najlepszego nauczyciela przedszkolnego w historii, albo jeszcze lepszego, Once we invent the robot that can be trained to be the world's best kindergarten teacher in history, or even better. 49:15 będziemy mogli powielić go milion razy i dać takiego robota każdej grupie przedszkolnej. We can then replicate them a million times and give every kindergarten classroom that robot. 49:21 Jasne? To się stanie, ale czy w ciągu 10 lat? Okay? That's gonna happen, but is it gonna happen in 10 years? 49:25 Wykluczone, prawda? No way, right? 49:26 To Waymo do potęgi trzeciej, prawda? It's Waymo, you know, triple clicked, right? 49:29 Czy pozwolimy robotowi opiekować się naszą małą… Are we gonna let the robot take care of little, you know, whoever? 49:32 moją Audrey, małą Audrey? Mine, Audrey, little Audrey. 49:34 Nie, bo chcemy mieć pewność, że to jest w 100 000% bezpieczne, prawda? Uh, no, because, you know, we wanna make sure it's 100,000% safe, right? 49:40 Więc uważam, że te rzeczy zajmą… So I do think these things are gonna take... 49:42 – Jeszcze jedno pytanie uzupełniające. Just one follow-up. 49:42 – Proszę. – Jeśli spojrzeć… Sure. Also, if you look at... 49:44 na wzrost gospodarki tajwańskiej czy południowokoreańskiej, produkcja IT ma w tych gospodarkach ogromny udział. You know, the growth of the Taiwanese economy or the South Korean economy, IT output for those economies are substantial. 49:57 Przenieśliśmy produkcję półprzewodników do tych krajów i przez lata zastąpiliśmy ją usługami, a konkretnie ochroną zdrowia i usługami finansowymi. So we've outsourced manufacturing of semiconductor chips to those economies, and we've replaced it with services, namely healthcare and financial services over the years. 50:09 A to właśnie obszary, którym AI najłatwiej zagrozi. Those are the areas that are Easily at threat from AI. 50:16 Jak więc pana model uwzględnia to, że zastępujemy przemysł usługami, i najsłabsze ogniwa? So how does your model, like kind of, account for the fact that you're replacing manufacturing with services and weak links? 50:25 – Myślę, że historycznie przemysł był tym, co najłatwiej zautomatyzować, a nauczycielki przedszkolne i pielęgniarka, która w nocy trzyma za rękę mojego ojca chorego na alzheimera, Yeah, I think historically manufacturing is kind of the easy thing to automate, and kindergarten teachers and the nurse holding the hand of my father when he has Alzheimer's at night, 50:35 takie rzeczy… you know, those things. 50:37 Znów: kiedyś będzie to robił robot, ale raczej nie w ciągu najbliższych 20 lat. Again, we'll get a robot someday to do it, but, you know, maybe not in the next 20 years. 50:40 Dla mnie to właśnie usługi wyglądają na najsłabsze ogniwo. I think the services, to me, they seem like the weak link. 50:44 Teraz chyba tutaj. I think over here. 50:45 Przepraszam, muszę wypatrywać ludzi w czerwonych koszulkach. Sorry, I need to look for the people in the red shirts. 50:47 Taką mam zasadę. That's my, my rule. 50:48 – Dobrze. Mówi się o gospodarce w kształcie litery K. Okay, so people have talked about the K-shaped economy. 50:52 Wszyscy słyszeliśmy oczywiście, że Meta rozdaje po 100 mln dolarów najlepszym inżynierom oprogramowania czy AI. You know, we've all heard, of course, of Meta doling out $100 million to top software engineers or AI engineers. 50:59 Przynajmniej w Stanach przypomina to teraz pozłacany wiek. It feels very Gilded Age right now, at least in the United States. 51:04 Moje pytanie brzmi: co w kapitalizmie powstrzymuje hiperkoncentrację udziału kapitału w dochodzie, czyli w praktyce oligopol – Big Tech na sterydach, który przejmuje coraz większą część gospodarki? So my question is, in capitalism, what stops the hyper concentration of the capital share of income, i.e., basically an oligopoly, big tech on steroids capturing more and more of the economy? 51:19 – Tak, to w pełni uzasadnione zmartwienie. Yeah, no, this is totally a valid question to worry about. 51:22 Nie znam odpowiedzi, ale powiem, co sam o tym myślę. I don't have the answers, but I'll tell you some things that I've been thinking about along these lines. 51:27 Po pierwsze, to, co widzimy przy AI… So first, I think what we're seeing with AI. 51:31 Wbrew temu, co mówiłem, historycznie sądziliśmy, że przemysł zostanie zautomatyzowany jako pierwszy. So, contrary to what I said, historically, we thought manufacturing would be the first thing to be automated. 51:35 Że da się zastąpić pracowników o niskich kwalifikacjach, a nas, ludzi kreatywnych? Jak można zastąpić kreatywność? Low-skilled workers could be replaced, and us creative types, how could you ever replace creativity? 51:41 A tu się okazuje, że ChatGPT robi kreatywność ot tak, prawda? No, it turns out ChatGPT does creativity like this, right? 51:45 Mnie zastąpią dużo wcześniej niż elektryków i hydraulików, prawda? I'm gonna be replaced long before the electricians and the plumbers, right? 51:49 Pomyślcie, co to oznacza dla nierówności. Think about what that does for inequality. 51:51 To akurat dobrze. That's actually good. 51:52 Płace elektryków rosną jak szalone, a moja… chyba w sumie nie spada, ale… The electrician's wage is going up like crazy, and my wage is— I think it's probably not going down actually, but, you know... 52:00 Trzymajmy kciuki. Trzymajmy kciuki. Fingers crossed. Fingers crossed. 52:02 W krótkim okresie może to więc zmniejszyć nierówności. But it could be good for inequality in the short term. 52:05 Po drugie: wysoko wykwalifikowana praca umysłowa, którą zastępuje AI – lekarze, prawnicy, ekonomiści, profesorowie – Second thing I'll say: the high-skilled cognitive labor that's getting replaced by AI: the doctors, the lawyers, the economists, the professors. 52:15 wszyscy mamy akcje z S&P 500. We all own shares of the S&P 500. 52:17 Jeśli masz akcje na giełdzie, dostajesz część tego dochodu z kapitału. If you own shares in the stock market, you're getting some of this capital income. 52:22 Więc myślę, że ludzie, którzy mają akcje, poradzą sobie. And so actually, I think the people who own shares are fine. 52:26 Martwić trzeba się o tych, którzy ich nie mają. It's the people who don't own shares you have to worry about. 52:28 Ale powiedziałbym, że państwo ma spory udział w PKB. But then I would say the government owns a lot of shares in GDP. 52:34 Dlaczego? Przez system podatkowy, prawda? Why? Through its tax system, right? 52:36 Państwo pobiera podatki i robi transfery, co pozwala pomagać tym, którym się mniej poszczęściło. So the government taxes and transfers, and that allows them To help out the less fortunate. 52:45 Już to robimy, może za mało. We do that already, maybe not enough. 52:47 Ale to przynajmniej wyznacza jakiś próg, który, miejmy nadzieję, da się podnieść. But that at least puts a floor that hopefully can be improved. 52:51 To jednak pytanie z ekonomii politycznej, a jeśli powiecie: „Chad, nie masz pojęcia o ekonomii politycznej, spójrz na ostatnie 20 lat”, to będzie słuszna uwaga. But this is a political economy question, and if you wanted to say, "Chad, you know nothing about political economy," "look at the last 20 years," that's a fair point. 52:59 Więc to na pewno skomplikowany problem. So I think it's a complicated problem for sure. 53:02 Dobrze, teraz tutaj, proszę. Okay, over here, please. 53:05 – Bardzo spodobała mi się pana koncepcja najsłabszych ogniw jako źródła niedoboru, a więc i potencjalnie wysokich zwrotów. So I really liked your framework of weak links being the source of scarcity and therefore potential for high returns. 53:14 Jaką radę dałby pan w tym ujęciu młodszemu pokoleniu, ale i nam, So given that framework, what advice would you give for younger generation as well as us? 53:21 żeby osiągać wysokie zwroty? To earn the high returns. 53:24 – Myślę, że zarządzanie, to, czego uczymy w szkole biznesu, będzie należeć do rzeczy wciąż cenionych na świecie za 10, I do think that, I think management, the things we teach at a business school are actually going to be some of the things that are still valued in the world 10, 53:37 15, 20 lat. 15, 20 years from now. 53:38 Dlaczego? Bo nie chcemy oddać władzy AI i pozwolić jej podejmować wszystkich decyzji bez ludzkiej kontroli. Why? I think we don't want to give power to the AI and let it make all the decisions unchecked by humans. 53:46 Menedżerowie będą konsultować się z AI, a potem podejmować ostateczną decyzję. Managers are the people who are going to consult with the AIs, and then they make the final call. 53:51 W pewnym sensie to oni będą tym, co rzadkie i niezwykle cenne. They're going to be the thing that's, in some sense, scarce and incredibly valuable. 53:55 Więc naprawdę uważam, że mnie zautomatyzują za dwa lata. So I actually think, you know, I'm going to be automated in two years. 53:59 Wy jesteście bezpieczni chyba przez kolejne 15 lat. You guys are safe for another 15 years, I think. 54:02 Po 15 latach wszystko jest możliwe. After 15 years, all bets are off. 54:04 Ale miejcie akcje z S&P 500, to chyba dacie radę. Own shares of the S&P 500, though, and I think you'll be okay. 54:07 Tak mniej więcej o tym myślę. So that's, anyway, that's kind of how I think about it. 54:10 Tak? – Jeszcze raz dziękuję za wykład. Yes? Thanks again for the talk. 54:13 Był świetny. I thought it was great. 54:14 Skoro tempo zależy od tego, jak bardzo jesteśmy gotowi atakować najsłabsze ogniwa, to czy różne społeczeństwa nie mogą poruszać się w różnym tempie? So if speed depends on your willingness to go at the weak links, strong, won't it be possible for different societies to go at different speeds? 54:25 I czy nie pojawią się ogromne różnice, jeśli ktoś będzie gotów iść dużo szybciej? And won't there be huge differences if someone is willing to move a lot faster? 54:30 – Tak, to doskonałe pytanie, nad którym zastanawiałem się jeszcze mniej niż nad nierównościami na rynku pracy – zdecydowanie za mało. Yeah, no, this is an excellent question that I, you know, even less than the labor market inequality question, I have thought not nearly enough. 54:38 Nad nierównościami na rynku pracy myśli wielu ekonomistów. And I would say there are lots of economists thinking about the labor market inequality question. 54:42 Ja akurat nie – to jeszcze nie mój obszar. I just happen not to be—that's not my focus yet. 54:45 Ale prawie nikt nie zastanawia się, jak to będzie wyglądać w gospodarce globalnej. Almost no one's thinking about what does this look like in a global economy? 54:50 Prawda? Myślę, że gospodarki, które mają inżynierów oprogramowania, tworzą idee stojące za sieciami neuronowymi, za OpenAI i Anthropic, i mają akcje tych firm, Right? So I think the economies that have the software engineers and that are creating the ideas behind neural networks and OpenAI and Anthropic, and we own shares of those companies, 55:02 tak czy inaczej poradzą sobie w świecie obfitości. I think one way or the other, in a world of abundance, we're fine. 55:06 A co z krajami rozwijającymi się, dużo biedniejszymi, które nie mają udziałów w S&P 500, mają ogromne nierówności, a najbiedniejsze z nich są w fatalnym, What about in developing countries that are much less well off, don't have claims on the S&P 500, have enormous inequality, and the least fortunate of those countries are in terrible, 55:20 fatalnym położeniu? Nie wiem, jak to się ułoży. terrible shape? I don't know how that works. 55:23 USA dokonują redystrybucji od bogatych do biednych – już trochę to robimy, może za mało – ale niewiele przekazują biednym na świecie, The US redistributing from rich to poor, we already do some of that—maybe not enough of that— but the US doesn't redistribute that much to the poor people around the world, 55:32 poza ideami, które wymyślamy. except through the ideas we invent. 55:34 Te idee mogą pomóc. So the ideas we invent can help out. 55:35 Ale skutki AI dla gospodarki światowej to temat fascynujący i zdecydowanie za mało zbadany. But this is—I think the global implications of AI for the global economy—fascinating, not studied nearly enough. 55:45 Wczoraj zapisałem sobie artykuł na ten temat, który przeczytam jutro w samolocie, ale to jedyny, jaki udało mi się znaleźć. I saved an article just yesterday that I'm gonna read on the plane tomorrow about this, but it's the only one I could find. 55:51 Tak? – Po pierwsze, pewnie nie zostanie pan zastąpiony w ciągu dwóch lat. Yes? First, it probably won't be replaced within two years. 55:56 Ale weźmy pana przykład radiologów. But just think about your example for radiologists. 56:01 Wielu moich znajomych, ja też, ma z AI więcej pracy: ona przejmuje łatwiejsze zadania, a my robimy trudniejsze i pracujemy ciężej. A lot of my friends, me included, actually become busier with the AI, and they take over the easier job, and we do the harder job and become easier or harder. 56:11 Myślę więc o przyszłości, nie wiem, za ile lat: będzie mała grupa ludzi, która będzie bardziej zajęta, So I'm just thinking fast-forward, I don't know how many years, there will be a small group of people become busier. 56:18 będzie pracować ciężej i wykonywać tę pracę. Harder and do this job. 56:19 I jak pan wspomniał, będą lepiej zarabiać i tak dalej. And as you mentioned, they have higher pay, whatever. 56:22 A będzie też dużo większa grupa, która będzie mogła po prostu mieć wakacje cały czas. And there's a much larger group probably can just take their summer vacation all day long. 56:27 Jak społeczeństwo będzie wtedy podchodzić do podziału bogactwa, podziału zasobów? How the society will think about the wealth distribution, the resource distribution at that time? 56:32 Zastanawiał się pan nad tym? Did you ever think about that? 56:34 – Tak, tak. Yeah, yeah, yeah. 56:34 Jedyna odpowiedź, jaką mam, i to niezadowalająca, jest taka, że przynajmniej będzie to świat obfitości, prawda? This is the only answer I have, which is not satisfactory, is at least it will be a world of abundance, right? 56:42 W świecie obfitości, gdzie wykres wzrostu wygląda tak, mamy dość dochodu, żeby było wielu miliarderów, a najbiedniejsi z nas byli milionerami, In a world of abundance, where the growth graph looks like that, we have Enough income for lots of billionaires and for the worst among us to be millionaires, 56:53 prawda? Nieskończony dochód w skończonym czasie daje mnóstwo zasobów do redystrybucji. right? That's what infinite income in finite time creates a lot of resources to redistribute. 56:58 Warren Buffett i Bill Gates oddają mnóstwo zasobów. Warren Buffett and Bill Gates give away a lot of resources. 57:01 System podatkowy przenosi mnóstwo zasobów. The tax system transfers a lot of resources. 57:03 Więc jak najbardziej może się to dobrze skończyć. So there's every possibility for that to work out well. 57:07 Nie znaczy to, że tak musi być, ale uważam, że świat obfitości to świat, na który warto mieć nadzieję. It doesn't mean it has to, but I do think a world of abundance is a great world to hope for. 57:14 Musimy tylko rozwiązać tę subtelną, skomplikowaną kwestię redystrybucji. We just need to solve this subtle, complicated redistribution question. 57:17 Ale tu jestem większym optymistą. But I'm more optimistic about that. 57:20 Znowu. Nazwijcie mnie Pollyanną. Again. Call me Pollyanna. 57:22 Tak. – I to będzie nasze ostatnie pytanie. Yep. And this will be our last question. 57:25 – O, proszę. Tak. Oh, wow. Yes. 57:30 – Nazywam się Roberto Santana, rocznik 2011. My name is Roberto Santana, class of 2011. 57:33 Hura! Pracuję w Google DeepMind. Yay! I work at Google DeepMind. 57:37 Próbuję pogodzić model, który pan pokazuje, z naturalnymi eksperymentami, które prowadzimy, i one się nie zgadzają. And I'm trying to reconcile the model you're showing with the natural experiments we're running, and they don't match up. 57:49 Mój problem z pana modelem polega na tym, że zakłada on, iż ograniczeniem – tym najsłabszym ogniwem – jest człowiek So I think that the challenge I'm having with the model that you provided is that, it assumes that the constraint, that weak link constraint, is a human, 57:59 i że AI nie może przejąć tych zadań ani w nich się poprawić. and that the AI cannot take or improve in those tasks. 58:04 Koordynacja, osąd, gust – słyszałem to w różnych wersjach. So the coordination, judgment, taste, I've heard it in many different ways. 58:08 Wydaje mi się więc, że stopniowość w modelu opiera się na założeniu, że AI musi postępować stopniowo. And so it appears to me that the model gradual Gradualism is based on an assumption that AI has to be gradual. 58:21 I to właśnie próbuję ze sobą pogodzić. And so that is the piece that I'm trying to reconcile. 58:26 – Tak, tak, wiem. Yeah, yeah, I know. 58:27 To całkowicie uczciwa uwaga. This is totally fair. 58:28 I w pewnym sensie pana reakcja to właśnie sedno tej pracy, bo tak do niej podszedłem. And in some sense, that's-- your reaction is entirely the point of the paper because I went into it. 58:34 Jestem w Dolinie Krzemowej, więc słyszę, widzę i czytam wszystko, co mówi, że świat zmieni się jutro, i jestem na to absolutnie otwarty. I'm in Silicon Valley, so I hear and see and read all the things that say the world is changing tomorrow, and I'm definitely open to that. 58:44 Zapisuję model i kalibruję go na danych historycznych. I write down the model, calibrate it to historical data. 58:48 Nie powiedziałem, jak go skalibrowałem – jak silne są najsłabsze ogniwa? I haven't told you how I calibrated, how strong are the weak links? 58:51 To oczywiście kluczowe pytanie. That's obviously a key question here. 58:53 Nie mam teraz czasu w to wchodzić. I don't have time to go into it now. 58:55 Można argumentować, że skalibrowaliśmy je jako zbyt silne. You could argue we've calibrated that to be too strong. 58:58 Ale znów: te 50 lat to długo. But again, the 50-year thing takes a long time. 59:02 Przykład, który lubię, kiedy się zastanawiam: czy to wiarygodne? The example I like when I think about is: Is this plausible? 59:04 Czy może rację mają moi znajomi z Doliny Krzemowej, którzy rysują tę linię za trzy lata? Or are my friends in Silicon Valley who draw this line happening in three years? 59:10 Przykład Waymo bardzo mnie przekonuje, bo ludzie z Waymo mówili w 2012 roku, jak wspominałem: „To będzie rozwiązany problem”. The Waymo example is really compelling to me because Waymo people were saying, like I said, in 2012, "This is going to be a solved problem." 59:17 Pomyślcie, jak łatwo rozwiązać problem samochodu autonomicznego. Think about how easy it is to solve a self-driving car problem. 59:20 Skręcasz kierownicą w lewo, w prawo, wciskasz gaz, wciskasz hamulec. You turn the wheel left, you turn the wheel right, you step on the gas, you step on the brake. 59:24 To wszystko, o czym trzeba decydować. That's all you have to decide. 59:26 Prawda? Mamy wszystkie czujniki świata, niesamowite algorytmy uczenia maszynowego, które liczą lepiej ode mnie. Right? We have every sensor in the world, incredibly, machine learning algorithms that can do math better than me. 59:31 Z pozoru prosty problem, a jednak wcale nie prosty. Simple problem, seemingly, and yet not a simple problem. 59:36 Dlaczego? Bo jest mnóstwo wąskich gardeł, najsłabszych ogniw. Why? Because there are all sorts of bottlenecks, weak links. 59:39 Świat fizyczny jest skomplikowany. The physical world is complicated. 59:41 Świat poznawczy – jestem bardzo otwarty na to, że sfera poznawcza przyspieszy dużo bardziej – ale żeby ten wykres ruszył, pomyślcie o komputerach. The cognitive world, I'm very open to the cognitive stuff going much faster, but to get that graph going, think about computers. 59:48 Udział komputerów w dochodzie czynników produkcji spadł. Computers' factor share has gone down. 59:50 Trzeba zautomatyzować całą resztę świata fizycznego i myślę, że to właśnie intuicja stojąca za spowolnieniem. You've got to automate everything else in the physical world, and I think that's really kind of what is the intuition behind the slowdown. 59:56 Ale czy stanie się to za 20 lat, czy za 100? But is it going to happen in 20 years or 100 years? 1:00:00 Nie wiem. I don't know. 1:00:01 Jestem prawie pewien, że nie za pięć lat, prawda? I'm pretty sure it's not going to happen in five years, right? 1:00:04 Na podstawie tego argumentu o najsłabszych ogniwach. Based on this weak link argument. 1:00:05 W każdym razie bardzo dziękuję. But yeah, anyway, thank you so much. 1:00:08 Mam nadzieję, że wspaniale spędzicie czas na zjeździe absolwentów. Hope you have a wonderful time at your reunion. 1:00:20 (cisza) (silent)