На этой неделе Илья Суцкевер, человек из Нижнего Новгорода и ex-сооснователь OpenAI дал интересное интервью. Любопытно, как рассуждают люди такого уровня: его больше волнует, почему эволюция развила у нас конкретную топологию коры мозга и как это повторить, нежели то, заменит ли нас ИИ. И сколько миллионов лет природа занималась нашим обучением. Интересные пойнты: - Модели решают сложные задачи, но при этом могут по кругу повторять одни и те же ошибки. Скорее всего, это из-за низкой способности к обобщению (generalization). У людей она как раз развита офигенно. Условно, если вы катались на серфе, вы легко встанете на лонгборд. - Людям помогают принимать решения... эмоции. Они ускоряют процесс в сотни тысяч раз. Это шорткат к эффективным действиям. Рассказал историю про мужчину, у которого пропали все эмоции и он не мог выбрать пару носков. - Говорит, что смысла накачивать модели данными и железом больше нет. Нужно искать новые идеи и элегантные решения. - Ларису Долину скорее всего не допустят к использованию СhatGPT, Gemini и других крупных моделей. А также, собран специальный датасет дабы пользователи не попадали под влияние «Эффекта Зловещей Долины». - Наши ожидания от нейросети должны быть как от 15-летнего тинейджера, который будет учиться в реальности. Такой ИИ можно запускать в экономику врачом, инженером, кем угодно. И чем больше их будет, тем быстрее всё начнёт меняться. Что касается того, захватит ли нас ИИ: он предлагает не пытаться сделать AGI, который базово «любит людей», а сделать того, кто заботится о мыслящих существах в целом. Это проще и, возможно, надёжнее, особенно если он осознает себя как мыслящее существо. Ну и мы все-таки часть экосистемы.