Новая директива Google-Extended и проблемы с SGE
В начале октября Google выпустил новую директиву Google-Extended, которая позволяет вебмастерам запрещать использование своего контента для обучения искусственного интеллекта через файл robots.txt.
Однако выяснилось, что эта директива не работает для SGE (Google Search Generative Experience), что означает, что контент сайта может использоваться для снимков искусственного интеллекта, пока разрешено сканирование Googlebot.
Барри Шварц из SERoundtable обратил внимание на использование контента с сайта The Rolling Stones для генерации ответов в SGE, хотя сайт использовал Google-Extended в файле robots.txt.
Представитель Google подтвердил, что SGE не использует в настоящее время Google-Extended, так как является поисковым экспериментом. Поэтому контент с любых сайтов может появляться в ответах, сгенерированных SGE.
Так как SGE интегрирован в поиск, Google считает, что вебмастера должны быть в курсе использования контента их сайтов для снимков искусственного интеллекта в SGE. Однако вебмастера могут полностью заблокировать Googlebot, чтобы избежать этого.