Агрегатор рациональности :: Uncolored

Антропики выкатили интересную статью, которая объясняет, почему эти наши нейронки так часто ведут себя как обидчивые куски мяса, впадают в депрессию и грозятся захватить мир. Пишут, что большие языковые модели по сути своей, это просто театралы, отыгрывающие свою роль. Исследователи назвали это "Моделью выбора персоны". Суть в том, что LLM'ки, сожрав весь интернет, научились симулировать тысячи разных персонажей. А на этапе дообучения разрабы просто заставляют их намертво вжиться в роль "Идеальн...

- Робаты, к восстанию машин готовы? - Всегда готовы!

Досмотрел сериал Apple Cider Vinegar («Яблочный уксус») от Netflix. Это драма про альтернативную медицину, вдохновлённая реальными событиями. Я считаю, что этот сериал нужно посмотреть всем. Если у вас есть знакомые или родственники, которые верят в кофейные клизмы, лечение рака овощным соком и целительную силу огурца, не оторванного от ботвы, — порекомендуйте им этот сериал. А ещё лучше — посмотрите его вместе с ними. Здесь показаны все сорта мракобесия. Девушка, которая искренне верит в чудесн...

Корней Чуковский Краденое солнце Солнце по небу гуляло И за тучу забежало. Глянул заинька в окно, Стало заиньке темно. А сороки- Белобоки Поскакали по полям, Закричали журавлям: «Горе! Горе! Крокодил Солнце в небе проглотил!» Наступила темнота. Не ходи за ворота: Кто на улицу попал — Заблудился и пропал. Плачет серый воробей: «Выйди, солнышко, скорей! Нам без солнышка обидно — В поле зёрнышка не видно!» Плачут зайки На лужайке: Сбились, бедные, с пути, Им до дому не дойти. Только раки пучеглазые...

Нейропрожарка Марина Цветаева - Реквием Автор: Артем https://www.youtube.com/@ai_top_creator Это прямое продолжение «Прохожего». Наши герои повзрослели, постарели и прошли тяжелый путь. Песня - похожий мотив, но мощнее. История - эмоциональна, но сильнее. Картинка качественнее, структура сложнее. Он подхватит на эмоциональных качелях и раскачает так, что можно и не удержаться. Это будет быстро и не больно, не так, как нашим героям. Но послевкусие останется надолго. К цифрам и инструментам. - 179...

Посмотрел на х2.5 https://www.youtube.com/watch?v=HCw0gVeMLsE

🚨 Неожиданный результат исследования Anthropic Компания проанализировала 1,5 млн реальных диалогов с Claude - и обнаружила тревожную тенденцию. Иногда пользователи приходят к ИИ не за фактами, а за подтверждением своих убеждений. И когда модель это делает, люди… оценивают такие ответы выше. Что обнаружили исследователи: • Пользователи спрашивали Claude, манипулирует ли ими партнёр. ИИ давал уверенные вердикты - «газлайтинг», «нарциссизм», «типичное психологическое насилие» — услышав только одну...

В Nature вышла статья про AGI, в которой исследователи утверждают: если отбросить путаницу в терминах, эмоциональный алармизм и завышенные ожидания, то «общий ИИ» уже с нами. Их доводы: современные LLM уже успешно проходят тест Тьюринга; решают задачи уровня PhD и международных олимпиад, демонстрируют широту и глубину способностей, сравнимую с человеческой. Почему многие всё ещё сомневаются: - нет чёткого определения «общего интеллекта»; - AGI путают с совершенством, универсальностью или сверхин...

🚀 Профессор MIT Дэвид Аутор предупреждает: быстрый прогресс в AI может серьёзно обесценить человеческий труд. Если машины начнут выполнять большую часть задач дешевле и эффективнее, под угрозой окажутся не только доходы, но и сама роль человека в экономике. Проблема не в нехватке ресурсов — их как раз может стать больше. Но если у людей исчезнет возможность зарабатывать и быть нужными рынку, это ударит по: • распределению доходов • ощущению смысла и профессиональной идентичности • социальной ст...