19-е место в RSNA Knee Abnormality Detection: дистилляция ансамбля, MedSAM-кропы и LLM-разметка

Ввиду быстрого развития технологий искусственного интеллекта все чаще и громче звучат предостережения о его безопасности. И в качестве решения чаще всего предлагается процедура под названием выравнивание. Ее суть в том, чтобы привести интересы искусственного интеллекта в соответствие с человеческими. Иначе у него могут возникнуть собственные интересы, расходящиеся с интересами человека. В этом случае он может устранить последнего как препятствие на пути следования им. Подобный подход предполагает, что в интересах человечества нет ничего объективного, и потому развитый искусственный интеллект может иметь не схожие интересы, а какие-то иные. Такая позиция несет в себе концептуальный изъян, и при его выявлении обнаруживается, что антагонизм имеет место, но не между интересами человека и искусственного интеллекта, а между интересами разных групп самих людей.

Некоторое время назад я опубликовал на Хабре криптографическую задачу №2 с зашифрованным посланием на кубике Рубика. Поскольку никто не прислал правильного ответа, я решил дать шанс чату GPT. Расшифровываем...

Толстый харнесс - окружающий модель программный контур, который берёт на себя большую часть проверяемых решений: нормализацию запроса, маршрутизацию, требования к контексту, политику, разрешения, выполнение воркфлоу, долговременное состояние и верификацию. Модель остаётся полезной на границе, где требуется понять человеческий текст, но не становится единственным источником истины. Это архитектура, в которой значительная часть решений вынесена из вероятностной модели в явные контракты и обычный код.