Artificial intelligence & natural stupidity Обсуждение захвата власти Эй-Аем под предыдущим постом напомнило мне мой тейк от 2023 года, который ни капли не устарел. Тейк в том, что вообще-то мы и сейчас во власти бездушных сверхсистем с доступом ко всему, включая ядерную кнопку и рубильник интернета. И контроля над ними в моменте примерно ноль. Сегодня, когда новые войны начинаются по свайпу чьей-нибудь царственной руки примерно раз в 2 недели, это ощущается еще острее. В тг я этот текст тогда не публиковал, поэтому позволю себе запостить сейчас: Людям, которые боятся превращения искусственного интеллекта в SkyNet, хочется напомнить: 1. У нас в мире уже сейчас есть сотни сверхчеловеческих сущностей, чьи информационные, коммуникационные, интеллектуальные и инженерные возможности превосходят человека на порядки. 2. Эти сущности в большинстве своем не поддаются никакому контролю извне, а процесс принятия ими решений представляет классический неинтерпретируемый "черный ящик" с неочевидной целевой функцией. 3. В эти сущности встроены все самые страшные bias-ы и предрассудки: гендерные, националистические, а часто и расовые. 4. Эти сущности оснащены самыми современными вооружениями, включая ядерные и высокоточные, и периодически применяют их для убийства людей. 5. Они называются государства. А то в борьбе за высокую этическую чистоту искусственного интеллекта как-то замыливается, в каком естественном дерьме мы живем