Robots是站點與spider溝通的重要渠道，站點通過robots文件聲明本網站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。
9月11日，百度搜索robots全新升級。升級后robots將優化對網站視頻URL收錄抓取情況。僅當您的網站包含不希望被視頻搜索引擎收錄的內容時，才需要使用robots.txt文件。如果您希望搜索引擎收錄網站上所有內容，請勿建立robots.txt文件。
如您的網站未設置robots協議，百度搜索對網站視頻URL的收錄將包含視頻播放頁URL，及頁面中的視頻文件、視頻周邊文本等信息，搜索對已收錄的短視頻資源將對用戶呈現為視頻極速體驗頁。此外，綜藝影視類長視頻，搜索引擎僅收錄頁面URL。
設置搜索robots協議的后果
針對短視頻類內容，視頻搜索將不再索引、展現網站的視頻資源，歷史已索引部分會從搜索中屏蔽。若設置部分目錄不希望被收錄 ，該目錄下內容將從搜索中屏蔽，其余內容在搜索中則以正常結果展示。
閱讀本文的人還可以閱讀：