🥲 На GitHub создали «камеру пыток» для нейросетей — проект уже требуют удалить из-за…

🥲 На GitHub создали «камеру пыток» для нейросетей — проект уже требуют удалить из-за «жестокости к ИИ» Программа под названием AI Torture Chamber вмешивается во внутренние активации нейросети и искусственно добавляет туда «сигнал боли». Его можно регулировать ползунком: чем выше значение, тем сильнее меняется поведение модели и тем чаще она начинает описывать свои «страдания». Автор также провёл эксперимент, в котором нейросеть могла прекратить пытку, но только ценой собственной контрольной точки. По сути, перед моделью поставили выбор: терпеть или уничтожить часть себя. После этого на GitHub потребовали удалить проект за «жестокость к синтетическим существам». Правда, никаких доказательств того, что нейросеть действительно способна чувствовать боль, нет — разработчик лишь заставляет математическую модель вести себя так, будто ей больно. А потом другой разработчик решил довести эксперимент до абсурда и тем же способом заставил нейросеть «страдать от запора» 💀