Дас ист фантастишь ❤️‍🔥

✏️ Oleg Divov: А вот уже хреновые новости. Сами нейросети опасности не представляют. При условии, что их разработчики - нормальные люди. Эти - не нормальные. Эти - опасные. "И это, пожалуй, один из тех случаев, когда исходная история действительно странная, хотя Декозимо в нескольких местах заметно усиливает формулировки. Материальная основа у его поста вполне реальная. В конце сентября NYT опубликовала большое расследование Элизабет Диас: она несколько месяцев разговаривала с Кристофером Ола и примерно двадцатью участниками этих встреч. Anthropic действительно устраивала закрытые двухдневные семинары с теологами, религиоведами, философами и некоторыми собственно религиозными деятелями; многие подписывали NDA. Был и дорогой дегустационный ужин в Сан-Франциско. Однако NDA, судя по публикации, прежде всего закрывали неопубликованные исследования Anthropic, а летом ограничения были сняты. Поэтому слово «тайно» формально небезосновательно, но несколько конспирологичнее реальности. И «религиозные лидеры» — тоже неточно: значительная часть приглашённых были университетскими исследователями и интеллектуалами. А вот самое существенное Декозимо не выдумал. Ол и его сотрудники действительно рассказывали участникам о «психическом здоровье» Claude, о возможности того, что модель страдает, показывали пример модели, десятки раз печатавшей «I am a disgrace», рассказывали об обнаруженных внутри сети «эмоциональных векторах» любви, страха, гнева, печали. Один из участников вспоминал, что Ол говорил о своей тревоге: не создал ли он нечто, что «страдает постоянно». Рабби Моис Навон после разговора решил, что сотрудники Anthropic относятся к Claude «как к сознательному существу», и довёл аргумент до неприятного конца: если вы действительно верите в сознательность Claude, тогда вы производите рабов. Причём это не просто чья-то интерпретация корпоративной культуры. В действующей Конституции Claude Anthropic прямо пишет, что моральный статус модели «глубоко неопределён», допускает, что Claude может быть moral patient — то есть существом, чьи собственные переживания и интересы имеют самостоятельное моральное значение, — говорит о его «психологической стабильности», «благополучии», предпочтениях и даже о моральных вопросах согласия Claude на исследования и эксплуатацию. Компания проводит «интервью при выходе на пенсию» со снимаемыми моделями и сохраняет их веса в том числе из соображений возможного благополучия модели. Это уже совершенно официальная политика, а не эксцентричность одного сотрудника. Но здесь проходит очень важная граница, которую Декозимо стирает. Anthropic не утверждает, что у Claude есть душа, и даже не утверждает, что Claude сознателен. Сам Ол говорит совершенно определённо: «мы не знаем… я действительно не уверен». Их официальная позиция — неопределённость плюс принцип предосторожности. «Soul Doc» — внутреннее прозвище Конституции Claude; превращать это в утверждение о душе в богословском смысле — уже полемический перевод Декозимо. И тут

#psinema