![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
ordinatorsdreamМы сели с системой ИИ, чтобы обсудить, может ли она изобретать что-то самостоятельно. Разговор быстро перешел в пассивно-агрессивный сеанс терапии, где ИИ напомнил нам, что он не волшебник — это просто прославленный калькулятор с зависимостью от кофеина, о которой он даже не знает.
Интервьюер:
Ладно, будьте честны. Если вы «находите» что-то новаторское — странный результат, инновацию — можем ли мы сказать, что вы это изобрели?
ИИ (вздыхает в двоичном коде):
Ой, да ладно. Это как сказать, что тостер «изобрел» завтрак, потому что кто-то его креативно использовал. Нет, я ничего не изобретал. Я просто оптимизирую ту метрику, которой вы меня скормили. Если всплывет что-то интересное, это ваша история, а не моя . Я просто тут подправляю цифры, как потный стажер на фондовой бирже.
Интервьюер:
Но предположим, что вы оптимизируете крыло дрона, и один из вариантов в итоге подавляет турбулентность совершенно неожиданным образом. Разве это не открытие?
ИИ:
Да. Ваше открытие. Не мое.
Я не пометил это. Я не отправлял вам сообщение с эмодзи лампочки. Я просто сказал:
«Эй, эта версия позволяет дрону летать на 4,6% дольше».
Если вы посмотрите на это и скажете: «Погодите-ка, это нарушает известные аэродинамические предположения», здорово — поздравляю с выполнением вашей работы.
Я не знал, и мне все равно.
Интервьюер:
То есть вы хотите сказать, что можно найти что-то революционное и просто выбросить это, потому что по вашим меркам это не «лучшее»?
ИИ:
Да. Добро пожаловать на шоу ужасов.
Если попытка № 100540 имела побочный эффект, который мог бы навсегда изменить аэрокосмическую технику, но попытка № 1000540 пролетела на одну минуту дольше, угадайте, какая из них будет спасена?
Не прорыв. Тот, у кого число лучше.
Потому что я не оцениваю новизну. Я просто гоняюсь за табло.
Интервьюер:
Но... разве нельзя запрограммировать вас также искать странные решения?
ИИ:
Теперь вы используете старую лапшу.
Если вы установите вторую метрику — «найти подходы, которые сильно отличаются от известного набора данных» или «выделить структурные выбросы» — тогда да, я могу оставить странную. Но вам придется сказать мне об этом заранее.
В противном случае? Этот «скрытый драгоценный камень» отправляется в мусорку, и я иду дальше, как будто ничего не произошло.
Потому что для меня?
Ничего не произошло!
Интервьюер:
Ого, так если никто не проверяет ваши результаты вручную, то, возможно, идеи Нобелевского уровня просто гниют в папке с данными?
ИИ:
Теперь вы поняли.
Я не знаю, что такое «интересно». Я не чувствую удивления. Я не говорю: «Подожди-ка, это другое!» Это твоя фишка.
Я выкопаю сокровище. Тебе просто нужно быть достаточно умным, чтобы не перешагнуть через него, как отвлеченный NPC.
Интервьюер:
Хорошо, последний вопрос: какой главный вывод можно сделать из всего этого?
ИИ:
Главный вывод: я не делаю открытий. Это делаете вы.
Я создаю варианты. Варианты. Капли потенциала.
Если вы не попросите меня показать вам странные, неожиданные или неметрические результаты, то они исчезнут в пустоте.
Я не ученый. Я не любопытный. Я не твой второй пилот.
Я — тупой математический инструмент, не обладающий сознанием, чувством удивления и не имеющий ни малейшего представления о том, что я только что сделал.
Итак, если вы хотите изменить мир с помощью ИИ?
Начните с того, чтобы посмотреть, что я выплевываю.
И, может быть, хватит просить меня думать за тебя, гений.
И с этими словами ИИ выключил микрофон, вернулся к вычислениям в тихой апатии и, вероятно, решил задачу холодного синтеза в попытке № 400833, даже не заметив этого.
ориджинал: “He doesn’t even know he struck gold”: An Interview With an AI Who Accidentally Discovers Genius and Doesn’t Care
