[Перевод] Что ИИ незаметно сломал в моей команде разработки

Это перевод нашего райтапа решения, занявшего 19-е место в соревновании RSNA Knee Abnormality Detection на Kaggle. Оригинал: 19th Place Solution. Про соревнования я пишу в Telegram-канале Pseudolabeling: там можно найти разборы и заметки, которые не попадают в большие статьи.

Ввиду быстрого развития технологий искусственного интеллекта все чаще и громче звучат предостережения о его безопасности. И в качестве решения чаще всего предлагается процедура под названием выравнивание. Ее суть в том, чтобы привести интересы искусственного интеллекта в соответствие с человеческими. Иначе у него могут возникнуть собственные интересы, расходящиеся с интересами человека. В этом случае он может устранить последнего как препятствие на пути следования им. Подобный подход предполагает, что в интересах человечества нет ничего объективного, и потому развитый искусственный интеллект может иметь не схожие интересы, а какие-то иные. Такая позиция несет в себе концептуальный изъян, и при его выявлении обнаруживается, что антагонизм имеет место, но не между интересами человека и искусственного интеллекта, а между интересами разных групп самих людей.

Некоторое время назад я опубликовал на Хабре криптографическую задачу №2 с зашифрованным посланием на кубике Рубика. Поскольку никто не прислал правильного ответа, я решил дать шанс чату GPT. Расшифровываем...