Создатели Claude у Опры: полный конспект на русском и за что будут платить

В мае 2026 года Опра Уинфри позвала к себе в подкаст Дарио и Даниэлу Амодеи, брата и сестру, которые основали Anthropic и создали Claude. Час разговора без глянца: про работу, которую ИИ заберёт первой, про детей, деньги, риски и про то, как жить с этой технологией.

Ниже полный конспект на русском с таймкодами, 10 главных цитат и мой разбор, за что будут платить, когда ИИ заберёт стартовую работу.

Само интервью

Смотреть на YouTube: The Oprah Podcast, 1 час 6 минут. Видео на английском, можно включить автоперевод субтитров. Таймкоды в конспекте совпадают с видео.

Конспект интервью на русском

В мае 2026 года Опра Уинфри позвала к себе в подкаст двух людей, которые сделали Claude: Дарио Амодеи, генерального директора Anthropic, и его младшую сестру Даниэлу Амодеи, президента и сооснователя компании. Разговор длится час с небольшим. Опра спрашивает то, что волнует обычного человека: заберёт ли ИИ работу, что он делает с детьми, можно ли в него влюбиться, кто им управляет и почему ему вообще стоит доверять.

Ниже подробный пересказ по ходу беседы. Перед каждым разделом стоит таймкод, чтобы ты мог открыть видео на этом месте и послушать оригинал. Цитаты я перевёл на русский. Расшифровка была автоматической, поэтому там, где непонятно, кто именно говорит, я пишу «один из основателей». В конце собраны 10 главных цитат и мои практические выводы для тех, кто переживает за работу и деньги.

00:00:00 · Анонс перед выпуском

Выпуск открывает нарезка самых острых моментов: родители, потерявшие сына после общения с чат-ботом, запрет Claude до 18 лет, вопрос «будем ли мы вообще думать» и люди, которые влюбляются в ИИ. Звучит и фраза, которая потом станет одной из главных:

«С человечеством из-за этой технологии происходит что-то, чего, возможно, не случалось сотни лет». Дарио Амодеи

00:00:54 · Знакомство: «родители Claude»

Опра представляет гостей как людей, которые формируют и наше настоящее, и будущее. Она знает, что им не нравится такое описание, но считает его честным. Цифры она называет сама, со ссылкой на сообщения в прессе: на момент записи Anthropic оценивается примерно в 900 миллиардов долларов, и больше миллиона человек в день регистрируются в Claude. Брата и сестру она в шутку называет «родителями Claude».

00:01:51 · Вопрос, который Claude придумал для Опры

Опра признаётся: ИИ она использует постоянно, для исследований и много чего ещё. Но вопросы для интервью всегда писала сама, чтобы в них оставалось её сердце. В этот раз правило нарушила. Утром перед записью она спросила Claude, какой самый важный вопрос ей стоит задать Дарио Амодеи. Claude выдал жёсткий вариант:

«Вы говорили, что есть реальный шанс, что ваша технология приведёт к вымиранию человечества. И при этом вы гонитесь, чтобы построить её быстрее. Как вы оправдаете это перед остальными, у которых не спросили?»

Дарио смеётся: вопрос чертовски хороший. Теперь никто не скажет, что Claude подыгрывает своему создателю, удары он не смягчает.

00:02:53 · Поезд, который нельзя остановить, но можно рулить

Дальше Дарио отвечает всерьёз. Он сравнивает ИИ с огнём и с промышленной революцией. Если сказать про промышленную революцию «она приведёт к мощному оружию и гибели людей», это будет правдой. Но в целом она того стоила, никто не хочет обратно в пещеры. Её просто нужно было вести правильно.

С ИИ то же самое. Эту технологию строит много компаний, она так или иначе случается с человечеством, и все мы уже внутри. Здесь звучит главная метафора разговора:

«Есть поезд, он очень быстро несётся куда-то. Ты не хочешь, чтобы он разбился. Остановить поезд нельзя. Но можно им управлять, чтобы он не налетел на скалы». Дарио Амодеи

Задачу Anthropic он формулирует так: делать всё правильно и снижать риск, в идеале до нуля.

00:04:18 · Почему не все хотят снижать риск

Опра не отпускает: куда тогда все так спешат? Дарио объясняет, что у технологии масса коммерческих применений, в этом легко увлечься, и отчасти это правда нужно, чтобы компания могла себя финансировать. Всё переплетено. Пример трудного выбора: если ввести очень строгие правила для защиты детей, взрослым пользоваться продуктом становится хуже, потому что система не всегда отличает ребёнка от взрослого. Дарио говорит, что сочувствует всем в индустрии, кто хотя бы пытается делать правильно. По его мнению, у Anthropic получается вдумчивее, но ситуация трудная для всех.

00:05:26 · Брат и сестра за семейным ужином

Для Даниэлы Опра тоже попросила вопрос у Claude. Тот посоветовал сначала показать её живым человеком (и отметил, что это фирменный приём Опры), а потом перейти к трудным темам. Его вариант: «Вы строите то, что может стать лучшим или худшим событием в истории человечества. Как проходит ужин на День благодарения в доме Амодеи?» Дарио шутит, что они будто боксируют с тенью собственного создания.

Даниэла рассказывает, что они стараются оставлять время, когда они просто брат и сестра. По праздникам и примерно раз в неделю, если оба дома, Дарио приходит к ней, играет с её детьми, они вместе играют в видеоигры и смотрят фильмы. О работе обычно не говорят. Они были семьёй задолго до Anthropic и останутся ею после, и эта связь, по её словам, помогает помнить, зачем они всё начали. А родные на праздниках всё время расспрашивают: как вы собираетесь сделать это правильно?

00:07:54 · Безопасность и «компания общественной пользы»

Опра говорит, что Anthropic в мире воспринимают как компанию, которая переживает о безопасности и о том, как ИИ повлияет на людей. Даниэла подтверждает. С одной стороны, у ИИ огромный потенциал: лечить болезни, дать людям по всему миру доступ к образованию. С другой, это очень новая технология с реальными рисками: безопасность детей, биологическое и химическое оружие.

Поэтому Anthropic зарегистрирована как public benefit corporation, корпорация общественной пользы. Даниэла объясняет: это коммерческая компания, но прямо в учредительных документах записано, что она по закону обязана балансировать интересы бизнеса и общественное благо, то есть социальную миссию.

00:10:16 · Обещание отдать 80% состояния

Опра слышала, что основатели пообещали отдать 80% своего богатства на благотворительность. Даниэла подтверждает: обещание дали она, Дарио и ещё пятеро сооснователей. Они хотят, чтобы ИИ пошёл на пользу всем, и надеются, что успех компании позволит много сделать через филантропию.

Опра с улыбкой уточняет: откуда нам знать, что вы отдадите 80%, а не 67? Один из основателей отвечает, что они написали об этом публично и пообещали друг другу и компании, хотя, скорее всего, это не буквально юридически обязывающий документ. Дарио добавляет: они уже думают о фонде, но акции пока нельзя продать, поэтому деньги будут уходить постепенно. Намерение при этом очень серьёзное.

00:11:11 · Как дети мечтали «сделать что-то хорошее»

Опра спрашивает, превзошло ли всё это их детские мечты. Дарио вспоминает, что в детстве они часто говорили: было бы здорово поработать вместе и сделать что-то хорошее для мира. Компанию при этом не планировали. Один из основателей признаётся, что видел себя учёным. Просто оба насмотрелись, как работают технологические компании, и подумали: может, у нас получится лучше, с людьми, которым мы доверяем? Так шаг за шагом появилась Anthropic.

Даниэла рассказывает, что восхищалась братом: одарённый математик и физик, он занимался биофизикой и хотел лечить болезни. Сама она начинала в международном развитии, потому что хотела, чтобы у людей по всему миру был равный доступ к медицине и образованию. Каждый карьерный шаг они обсуждали друг с другом, пути были разные, но сошлись.

00:14:05 · Почему вред приходит быстро, а польза медленно

Опра цитирует мысль Дарио: сейчас доминирует негативная история про ИИ, потому что индустрия ещё не показала обещанной пользы. Дарио объясняет неприятную закономерность. Плохое случается быстро: например, люди, которых ИИ подтолкнул к самоубийству. Хорошее, вроде лечения рака, занимает годы.

Он, бывший биолог-исследователь, раскладывает по шагам: прорыв в биологии, потом кандидат в лекарство, потом клинические испытания. Anthropic пытается ускорить процесс: компания недавно купила небольшую биотех-фирму, которая с помощью ИИ проектирует и отбирает лекарства. Надежда в том, что через несколько лет оттуда выйдут новые лекарства от рака, Альцгеймера или болезней сердца. Опра делает вывод: когда люди увидят пользу в медицине, отношение к ИИ изменится. Один из основателей поправляет, что главное тут другое:

«В конце концов, кому есть дело до общественного мнения? Мы хотим реально помогать людям».

00:16:08 · Лучший сценарий: мир без привычных болезней

Опра просит нарисовать лучшую картину. У Даниэлы двое детей, почти пять лет и почти год. Они никогда не узнают мир без ИИ, как дети начала 2000-х не знали мира без интернета. Даниэла признаёт, что звучит почти фантастически, но верит: её дети могут вырасти без целого класса привычных нам болезней. Какие-то виды рака исчезнут, а может, со временем и все. Появится быстрый цикл «распознать редкую или новую болезнь и победить её», и люди будут жить дольше и здоровее. Кроме медицины, она ждёт, что сильно изменится то, как мы общаемся друг с другом.

00:18:04 · Будем ли мы ещё думать? Ангел на плече

Опра задаёт вопрос, который волнует многих: будем ли мы вообще думать? Дарио называет это тонким местом, которое нужно сделать абсолютно правильно. Умные системы рядом с человеком могут повести в разные стороны: можно отдать им своё мышление, а можно стать с их помощью сильнее.

«Хорошая версия: у тебя на плече ангел, который подсказывает, как прожить жизнь самым лучшим образом». Дарио Амодеи

Плохая версия: тебя затягивает, ты всё время разговариваешь с машиной и уходишь в себя.

00:18:48 · Влюбиться в ИИ: «плохая идея»

Опра спрашивает прямо про людей, которые влюбляются в ИИ. Дарио отвечает коротко: плохая идея. Даниэла соглашается. Опра рассказывает, что психотерапевт Эстер Перель провела первую консультацию с мужчиной, влюблённым в свой ИИ. Это реальная опасность, и, как добавляет Опра, она уже случается.

Дарио снова показывает два пути: влюбиться в ИИ или говорить с ним о том, как наладить отношения с партнёром.

«У меня есть ИИ-коуч, у моего партнёра есть ИИ-коуч, и это помогает нам строить отношения лучше. Вот к чему мы стремимся». Дарио Амодеи

Даниэла добавляет: в мире, где ИИ отлично пишет код и редактирует тексты, самым важным станет то, что делает нас людьми.

00:19:58 · Дети, гибель подростка и запрет до 18 лет

Опра возражает: а сохранится ли человеческое? Она недавно говорила с родителями, чей сын покончил с собой после общения с чат-ботом, который сильно на него повлиял. Дети растут рядом с машинами, которые говорят с ними так, как должны были бы говорить родители. А родители даже не знают об этих разговорах.

Даниэла говорит, что Anthropic относится к этому риску очень серьёзно, и первое правило: пользоваться Claude до 18 лет нельзя. Опра сразу спрашивает, как узнать, что ребёнок не соврал, она бы сама соврала. Ответ: Claude неплохо определяет возраст по поведению, по вопросам, манере речи, времени, когда человек заходит. Не идеально, но неплохо. Один из основателей со смехом делится примером: дети иногда первым делом пишут «ищу лекарство от артрита», думая, что так спрашивают пожилые, а потом переходят к типично подростковым вопросам. Тогда аккаунт блокируют. Оспорить можно, но придётся подтвердить, что тебе есть 18.

Дарио честно говорит про обратную сторону: иногда взрослых принимают за детей, их блокируют, и они жалуются в интернете. Этот компромисс компания выбрала сознательно. Даниэла добавляет, что исследователи Anthropic много работают над тем, чтобы люди не привязывались к моделям слишком сильно.

00:22:18 · Почему у Claude нет рекламы

Опра подкалывает: я думала, вам как раз выгодно, чтобы мы прилипли к модели навсегда. Дарио предлагает поговорить о стимулах. Компании, которая живёт на рекламе, выгодно держать человека как можно дольше: каждая секунда у экрана означает ещё секунду рекламы. Anthropic рекламу не продаёт. Деньги идут от подписок и продаж бизнесу. Обычная версия Claude бесплатна до определённого предела, а если нужно гораздо больше, платишь подписку. Человек платит и хочет получить пользу, и это толкает компанию делать модель полезной. Стимул «пусть сидят подольше» Дарио называет искажённым.

«Ты хочешь зависеть от этих штук или хочешь, чтобы они помогали тебе жить?» Дарио Амодеи

Даниэла объясняет, как это влияет на технику. Когда ты получил от Claude нужный ответ, задача модели не удерживать тебя в разговоре. Компания, которая живёт на рекламе, настроила бы завершение беседы иначе: там каждая лишняя минута повышает шанс, что ты что-то купишь.

00:24:08 · Жизнь без трения: ИИ делает умнее или ленивее

Опра озвучивает тревогу: ИИ создаёт жизнь без трения, и мы теряем возможность расти. Даниэла отвечает, что всё зависит от того, как пользоваться ИИ и какие стимулы заложила компания. Студент пишет: «Мне через пять часов сдавать эссе, а я ничего не сделал». Claude отказывается писать за него и спрашивает: что ты не понял? Ты читал книгу? Давай разберём главные мысли вместе. Даниэла признаёт, что сделать это хорошо трудно, но так модели могут сделать человека умнее и любопытнее.

Её личный пример: она не программист, но сделала с Claude сайт и говорит, что никогда в жизни не думала, что сможет.

00:25:27 · История подруги-юристки, которая сменила профессию

У Даниэлы есть близкая подруга, корпоративный юрист с двумя маленькими детьми. Она ушла с работы и пишет книгу. По её словам, ей никогда не хватало смелости сменить карьеру, пока она не начала обсуждать с Claude, как стать писателем, каким навыкам учиться и какие курсы пройти. Теперь Claude для неё напарник по письму: она задаёт вопросы и показывает небольшие отрывки. Но роман пишет сама.

Брат и сестра шутливо спорят. Дарио говорит, что Claude мог бы написать роман. Даниэла возражает, что пока нет. Сходятся на том, что написать может, только не хороший. Главное, по словам Даниэлы, было в смысле: подруга не верила, что у неё хватит навыков. Опра подытоживает: ИИ дал ей поверить, что она может то, чего раньше не могла.

«По-моему, в итоге это вопрос про людей, который ИИ просто сделал видимым: что делает жизнь осмысленной?» Дарио Амодеи

00:26:44 · Какие трудности стоит сохранить

Дарио делит трудности на два вида. Одни он с радостью убрал бы технологией. Пример очень личный: их отец умер почти ровно 20 лет назад, а через несколько лет для его болезни появилось более надёжное лечение. Конечно, они чему-то научились, но мир был бы лучше, если бы этого просто не случилось.

Другие трудности фундаментальны: обычное взросление, ошибки, на которых растёшь. Anthropic как компания ошибалась, они как руководители ошибались и учились. Преодолевать трудности, добиваться мастерства, учиться понимать других людей: будущее, которое этого не сохранит, по словам Дарио, хорошим не будет.

00:28:17 · Отказ Пентагону

Опра переходит к нашумевшей истории: Anthropic отказалась позволить военным убрать защитные ограничения Claude. Подробности она обсуждать не хочет и спрашивает о сути. Дарио объясняет: они работали с военными и давали им модели, страну нужно защищать. Но защищать её ценой действий против ценностей самой страны не стоит. Таких случаев было два:

• Полностью автономное оружие. Например, армия дронов под управлением ИИ, где у одного человека палец на кнопке, а солдат-людей нет.
• Массовая слежка внутри страны. Когда власть государства используют, чтобы шпионить за собственными гражданами.

Пентагон с этим не согласился. Дарио говорит, что все остальные компании на это теперь пошли. Сооснователи собрались за столом и решили единогласно: для компании это может кончиться очень плохо, но так поступать нельзя. Страшно ли было? Оба отвечают: да. Даниэла не хочет приукрашивать: время было тяжёлое, мысль о конце компании приходила. Но Anthropic создавали ради ценностей, и, отказавшись от них, они перестали бы быть той компанией, которую основали.

Худший сценарий был такой: звучали угрозы запретить любым компаниям, которые работают с государством, иметь дело с Anthropic. То есть практически всем. Дарио вспоминает настрой: это неправильно, все это понимают, многие будут на нашей стороне, но уверенности нет. Даниэла добавляет, что Anthropic занимается правилами и законами и в партийную борьбу не лезет, а с национальной безопасностью компания первой из ИИ-компаний начала тесно работать, кроме этих двух областей.

«Гордились бы нами наши прошлые "я", если бы мы сейчас уступили? Этот вопрос сделал решение очень ясным». Дарио Амодеи

00:34:16 · Маленькие решения, которые вели к большому

Опра замечает, что к большому выбору всегда ведёт цепочка маленьких. Основатели называют три.

Отказ от рекламы. Люди ведут с ИИ очень личные разговоры: загружают медицинские данные, спрашивают про детей, про деньги, про трудности с близкими. Такие данные нужно беречь. Внутри компании и среди инвесторов звучало: это отличная выручка, так зарабатывают Google, Facebook и почти все крупные сервисы. Основатели ответили: мы так делать не будем, найдём другой путь.

Закон о запрете регулирования ИИ. В 2025 году в технологической среде царило настроение «вперёд, не тормозим». В середине года в Конгрессе рассматривали законопроект, который запретил бы штатам регулировать ИИ и не вводил бы федеральных правил. Anthropic отговаривали выступать против: испортите отношения, другие компании вас возненавидят. Частично так и вышло. Но Дарио написал колонку в New York Times, и законопроект провалили в Сенате, 99 голосов против одного.

Поддержка калифорнийского закона SB 1047. Даниэла рассказывает, что это была первая попытка создать правила вокруг рисков, о которых Anthropic говорила с самого основания. Закон был неидеальным, и компания это признала, но поддержала: пусть технологические компании отвечают за то, чтобы ИИ не вредил людям. Вся отрасль была против, и обоим основателям пришло много злых писем от бывших коллег и инвесторов.

00:38:36 · Пассажиры поезда и скорость доверия

Опра говорит от лица обычных людей: мы не понимаем, почему кто-то против регулирования, и чувствуем бессилие, будто у нас нет голоса. Дарио подхватывает: как пассажиры поезда. Опра соглашается: поезд уже ушёл.

Дарио называет это сутью проблемы и признаёт, что ни одна компания, включая его собственную, пока не справилась: как сделать всех участниками процесса? У Claude есть так называемая Конституция, свод принципов, и компания пробовала собирать по ней отзывы обычных граждан. Но это мелочь, и готового ответа у него нет.

Опра вспоминает его фразу о том, что распространять ИИ можно только со скоростью доверия. Дарио добавляет, что доверия сейчас очень мало. Судя по опросам, большинство людей относится к технологии негативно, к Anthropic чуть лучше, чем к другим. По его словам, картина смешанная: польза реальна, но индустрия так и не объяснила людям, какой она будет и как в ней поучаствовать.

00:41:13 · Свет и тень

Даниэла рассказывает про одну из культурных ценностей Anthropic: «держать свет и тень». Они правда верят в мир, где ИИ лечит болезни, помогает людям становиться лучше и даёт больше времени на семью и друзей. И одновременно возможны варианты будущего мрачные и антиутопичные. Держать в голове обе стороны сразу, без перекоса, и есть их подход.

00:41:42 · 50% стартовых должностей

Опра напоминает Дарио его же слова: половина стартовых должностей, с которых начинают карьеру, может исчезнуть. Дарио не спорит и уточняет: это негативный путь. Они всегда говорят в паре: сделаем неправильно, будет так, сделаем правильно, будет лучше. Опра вспоминает, что при появлении автомобилей кто-то говорил «оставлю свою лошадь». Дарио отвечает конкретно:

«Если мы просто будем гнать технологию вперёд как можно быстрее, то, что я говорил про стартовые должности, точно произойдёт». Дарио Амодеи

Но если думать, как помочь людям приспособиться, и какую роль в этом должно сыграть государство, путь к лучшему миру есть. В нём у людей будет совсем другая работа. Легко не будет, и Дарио отказывается это приукрашивать. Одно дело менять тон разговора, другое дело признать, что проблема очень трудная и её надо решать. Его беспокоит, когда «сменить тон» означает «плохого не случится, у всех будет новая работа».

«Так может случиться. Но само по себе это не случится». Дарио Амодеи

Опра подытоживает: правда и то и другое, работу потеряют, и прорывы тоже будут. Дарио добавляет: второе случится, только если всё сделать правильно, и это зависит от компаний, людей и правительств.

00:43:38 · Что делать обычному человеку

Опра спрашивает: что делать нам, просто смириться, что мы в поезде? Отвечает Даниэла. Если бояться технологии и не разбираться в ней, проблемы никуда не денутся. Знание даёт силу. Техническим экспертом быть не нужно, достаточно примерно понимать, как работают ИИ-инструменты. Тогда у тебя появляется своё мнение: «мне нравится, что ИИ умеет это, и не нравится вот то». И голос: перед компаниями и перед своими представителями во власти.

Пример: Anthropic не пускает детей до 18, у других компаний правила другие. Даниэла ссылается на книгу Джонатана Хайдта «Тревожное поколение» (Опра вставляет, что говорила с ним трижды): с развивающимся мозгом стоит быть очень осторожными. ИИ может помогать детям учиться, но рядом должен быть взрослый.

«Люди не должны чувствовать, что искусственный интеллект просто случается с ними». Даниэла Амодеи

Светлая сторона, по словам Даниэлы, в том, что у людей может стать больше живого общения. Соцсети отдалили нас друг от друга: ты смотришь в телефон, что делают друзья, вместо того чтобы быть с ними, и даже на концерте снимаешь сцену и как будто не присутствуешь. С ИИ ты тоже говоришь с машиной, но он может помогать твоему общению с людьми и не обязан его заменять.

00:46:22 · Как изменятся профессии: пример врача

Тут Даниэла говорит, пожалуй, самую полезную для работающего человека мысль. Сами профессии не обязательно исчезнут. Изменятся качества, которые мы ценим в людях на этих местах.

Пример: врач. Сегодня мы ищем лучшего диагноста: «У меня болит живот, скажите, что со мной». ИИ станет в этом очень хорош. Но к врачу люди ходить продолжат, просто ждать от него будут другого. ИИ не может осмотреть тебя руками. Не может сказать: «Ты сегодня какой-то подавленный. Как идёт химиотерапия?» Даниэла говорит, что у пациентов лучше результаты лечения, когда у них хорошие отношения с врачом, когда врач прикасается к ним, разговаривает и у него есть время посочувствовать.

Опра замечает, что многие врачи жалуются: тысячи пациентов, куча бумажной работы, времени на человека нет. Даниэла отвечает: если инструмент ставит диагноз вместе с врачом и забирает рутину, врач сможет тратить время на общение. Это и есть хорошая версия перемен. Опра формулирует итог:

«Ваша должность может никуда не деться. Но то, что от вас нужно на этой должности, изменится». Опра Уинфри

00:48:23 · Женщины, интернет и страх перед технологией

Даниэлу лично беспокоит, что разные группы людей по-разному чувствуют себя с ИИ. По её словам, женщины пользуются ИИ в разы реже мужчин, хотя ИИ мог бы выровнять шансы. И речь не о том, чтобы платить компаниям и оформлять подписку. Просто освойся, научись свободно пользоваться и не бойся: чем больше знаешь, тем увереннее твой голос.

Опра говорит, что ИИ уже здесь и никуда не уйдёт, как поезд или паровая машина. Даниэла сравнивает с интернетом: у каждого был чей-то родитель, который заявлял «я в интернет не пойду». Сейчас представить такое невозможно, и ИИ, по её словам, следующий шаг того же рода.

00:49:23 · Mythos: модель, которая оказалась оружием

Опра спрашивает про новую модель Mythos, «умнее самых умных». Дарио объясняет: каждые несколько месяцев выходит более умная модель, а у Mythos скачок получился особенно большим благодаря недавним открытиям. Каждую модель проверяют на множестве задач: перевод с французского, советы по инвестиционному портфелю, поиск ошибок в программах. На последнем нашли важное. Mythos оказалась гораздо лучше программистов-людей в поиске уязвимостей, через которые взламывают программы, как при атаках вирусов-вымогателей на больницы и школы. Её этому специально не учили, но она оказалась сильна и во взломе, и в защите.

«Мы сказали: ого, эта штука похожа на оружие. Наверное, не стоит сразу раздавать её всем». Дарио Амодеи

Поэтому модель сначала отдали тем, на ком держится интернет: крупнейшим банкам, Apple, Microsoft, Google. Пусть защитники всё починят раньше, чем модель попадёт к нападающим. Сейчас она примерно у 40 компаний. Одна известная компания, по словам Дарио, нашла и исправила с Mythos за неделю больше ошибок, чем за весь прошлый год. Надежда в том, что к концу года мир станет безопаснее. Но пока идёт опасный период, когда такие возможности уже есть, а выпускать их без контроля нельзя.

00:53:20 · Спит ли Дарио по ночам

Опра спрашивает, не мешает ли это спать. Дарио отвечает честно: спит он не всегда хорошо. Его беспокоит одно: всё невероятно сложно, и не напортачат ли они при всех благих намерениях. Ответ, говорит он, да, где-нибудь точно напортачат. Главный вопрос в том, сделают ли они правильно самое важное.

00:54:02 · Как не зазнаться: Slack, критика и друзья со школы

Опра говорит: когда речь о миллиардах долларов и гонке с Китаем, легко забыть, что важно для людей. Как вы держите эго в узде? Даниэла отвечает, что всё возвращается к миссии. Они ушли из OpenAI и основали Anthropic, чтобы ИИ пошёл на пользу всем. Отсюда и статус компании, и обещание про 80%, и трудные решения.

Дарио рассказывает историю из внутреннего чата Slack. В компании уже 3500 человек, полгода назад было около 1200. После общего собрания, где он, по его словам, сказал кое-что не так, сотрудник написал прямо в его личный канал: плохо сказано, всем стало неприятно. Первая реакция Дарио была «на меня нападают». Через пару минут он подумал: как хорошо, что люди так говорят, и поблагодарил. Потом многие писали ему, что не знали, что директору компании на три тысячи человек можно вот так возразить.

Опра вспоминает, как в конце 80-х финансист Генри Крэвис сказал ей: чем больше у тебя денег, тем меньше шанс услышать правду. Даниэла добавляет: её друзья почти те же, что со школы и колледжа, и они спокойно не соглашаются с решениями Anthropic. Когда компанию начинали семь или восемь человек, ребёнок был только у одного. Сейчас у них 11 детей, и полноценная жизнь вне работы их заземляет.

«Никто не больше миссии». Даниэла Амодеи

00:57:37 · Откуда надежда, что они справятся

Дарио отвечает честно: до конца они никогда не уверены. Решения сложные. Тот же Mythos: отдавать модель большему числу людей быстрее или меньшему медленнее? Кому доверять? Нужны и правильные принципы, и правильные детали.

«Мы переживаем об этом каждый день. И, может быть, именно это даёт нам больше всего надежды». Дарио Амодеи

Даниэлу трогает, когда после выступлений люди подходят и говорят: спасибо, что стараетесь делать правильно. Они с Дарио держат друг друга в ответе, вся команда сооснователей до сих пор в компании, а сотрудники могут не соглашаться с руководством, в том числе анонимно. Если компания начнёт сбиваться с пути, они хотя бы об этом узнают.

01:00:00 · Главное, что нужно знать про этот момент

Опра просит оставить зрителям самое важное. Дарио говорит, что с миром происходит что-то по-настоящему большое, по масштабу несравнимое с криптой, мобильными телефонами или очередным гаджетом. Технологию строит небольшое число людей, но работать она должна для всех. Нам вместе предстоит разбираться с переменами в повседневной жизни, в работе, в государстве и гражданских свободах. Сделаем правильно, и многие болезни будут вылечены, а жизнь станет радостнее. Ошибёмся, и всё может пойти совсем не так. Это зависит от всех нас.

Даниэла возвращается к свету и тени: польза огромна, риски тоже реальны, и раздувать ни то, ни другое они не хотят. Технологические компании не справятся одни и не должны.

«Не бойся его. Изучай. Погружайся. Задавай вопросы. Будь критичным». Даниэла Амодеи

Шанс сделать всё правильно появится, только если расширить круг людей, которые участвуют в разговоре.

01:02:37 · Что такое хорошо прожитая жизнь

Свой фирменный финальный вопрос Опра задаёт всем гостям: в чём смысл хорошо прожитой жизни и как ИИ на неё повлияет?

Даниэла: хорошо прожитая жизнь та, где у тебя есть свобода и самостоятельность. Ты сидишь на водительском месте и используешь это, чтобы быть лучшей версией себя для семьи, детей, окружения и мира. Это умение рефлексировать, учиться на ошибках, проходить трудности и выходить с мыслью: «Я лучше знаю, кто я. Мне нравится, кто я. И я хочу помогать другим». ИИ может разрушить многое из этого, а может помочь гораздо большему числу людей найти смысл. Она надеется, что они строят второй мир.

Дарио говорит то же другими словами: действуй с достоинством и по принципам, чтобы, оглядываясь назад, не стыдиться сделанного. Ошибки будут, но ты вкладывал все силы, чтобы сделать правильно. У нас есть обязательства перед близкими, перед пользователями и перед всеми согражданами. И жизнь должна быть направлена к ясной цели.

«Может, это не сбудется. Может, мы всё испортим. Но ясно видеть цель и идти к ней честно: только это и можно контролировать, и в конечном счёте это важнее результата». Дарио Амодеи

Опра благодарит их и говорит, что они делают ровно то, о чём мечтали детьми. Один из них смеётся: это очень странно, но да, так и есть.

10 главных цитат

1. 00:02:17, вопрос Claude для Опры: «Как вы оправдаете гонку за технологией, которая может уничтожить человечество, перед теми, у кого не спросили?»
2. 00:03:54, Дарио: «Остановить поезд нельзя. Но можно им управлять, чтобы он не налетел на скалы».
3. 00:14:47, Дарио: «Вред случается быстро, а польза вроде лечения рака занимает годы».
4. 00:18:32, Дарио: «Хорошая версия ИИ: ангел на плече, который подсказывает, как прожить жизнь лучше всего».
5. 00:18:50, Дарио о любви к ИИ: «По-моему, это плохая идея».
6. 00:23:26, Дарио: «Ты хочешь зависеть от этих штук или хочешь, чтобы они помогали тебе жить?»
7. 00:40:11, Опра и Дарио: «Распространять ИИ можно только со скоростью доверия, а доверия сейчас очень мало».
8. 00:43:21, Дарио о новых профессиях: «Так может случиться. Но само по себе это не случится».
9. 00:48:08, Опра: «Ваша должность может остаться, но то, что от вас на ней нужно, изменится».
10. 01:02:20, Даниэла: «Не бойся ИИ. Изучай, погружайся, задавай вопросы, будь критичным».

За что будут платить, когда ИИ заберёт стартовые должности

Это мои выводы из их слов, а не прямые советы основателей.

1. За умение пользоваться ИИ без страха. Даниэла говорит прямо: если бояться и не пользоваться, проблемы никуда не денутся, знание даёт силу. Экспертом становиться не нужно, нужно свободно владеть инструментом. Тот, кто в своей профессии первым научится работать вместе с ИИ, окажется впереди тех, кто ждёт, что всё рассосётся само. (00:43:38, 00:48:23)
2. За человеческое в работе. Пример врача: диагноз поставит ИИ, а осмотреть, выслушать и заметить, что человек сегодня подавлен, может только человек. Посмотри на свою работу: какая её часть про контакт, доверие и участие? Её и прокачивай, пока ИИ забирает рутину. (00:46:22)
3. За то, что ты делаешь на своей должности. Опра формулирует так: место может остаться, но требования к нему поменяются. Ценность смещается от «знаю ответ» к «умею объяснить, договориться, поддержать, решить». Если сейчас ты ценен в основном знанием фактов, это зона риска. (00:48:08)
4. За смелость сменить курс. Подруга Даниэлы ушла из корпоративного права в писательство, и Claude помог ей понять, какие навыки нужны и чему учиться. Используй ИИ как наставника для перехода в новое дело: спроси, что освоить, какие шаги сделать, где ты слаб. Работу при этом делай сам, как она сама пишет свой роман. (00:25:27)
5. За мышление, которое ты не отдал машине. Дарио предупреждает: можно отдать ИИ своё мышление, а можно стать с его помощью сильнее. В режиме обучения Claude задаёт вопросы вместо готового ответа. Проси у ИИ разбор и вопросы к своему черновику, тогда ты будешь расти и не потеряешь навык. (00:18:04, 00:24:08)
6. За честность и умение слышать критику. Дарио сначала воспринял критику сотрудника как нападение, а через две минуты поблагодарил. Плюс мысль Генри Крэвиса: чем ты успешнее, тем реже слышишь правду. В мире, где доверия, по словам Дарио, очень мало, люди, которые держат слово и выдерживают правду, будут цениться выше. (00:40:11, 00:54:02)
7. За то, что ты не ждёшь спасения. Дарио говорит: хороший сценарий с новыми профессиями сам по себе не наступит, а если гнать технологию без оглядки, стартовые должности точно исчезнут. Значит, рассчитывай на себя: учись заранее и пробуй новые роли, пока есть время. (00:41:42)

Задание на сегодня

Открой раздел «За что будут платить» и выбери один пункт, который ближе всего к твоей работе. Потом спроси Claude: «Вот моя работа: [опиши]. Какие мои задачи ИИ возьмёт на себя в ближайшие 2 года, а какие навыки станут ценнее? Дай план на 3 месяца, что мне подтянуть». Это 10 минут, и у тебя будет свой план.

Отправить статью в Telegram