Лямда и Лемойн
Jun. 30th, 2022 09:11 pmДелал на работе презентацию про Google laMDA и историю с Blake Lemoine. Я вообще-то хотел про этику, философию, и самосознание у алгоритмов (и что Лемойн придурок), но технический аспект оказался гораздо интересней.
Для тех, кто немного в теме, там turtles all the way down, в смысле трансформеры, и все подсистемы лямды это дополнение текста, включая ранжирование результатов и запросы к внешней базе знаний, а вообще лучше читайте их статью в архиве. Да, у Лямды нет доступа к сети, так что я не понимаю, Лемойн не читал статью о Лямде, или не смог понять? Он же всё-таки инженер, кроме того, что он гностический священник.
Но я не об этом. Меня внезапно осенило: текущие успехи в AI объясняются не только прогрессом в железе, и несколькими интересными идеями про архитектуру сетей, но и интернетом, т.е. наличием безумного количества доступного в цифровом виде текста на любую тему. Хрен бы они лямду натренировпли без форумов, твиттера, википедии и т.п.
Хотя конкретно в лямде Гугл ещё немало вложил в аннотацию диалогов людьми.