亚洲十八禁,久草香蕉

填空題當(dāng)網(wǎng)絡(luò)爬蟲訪問(wèn)網(wǎng)站時(shí)，會(huì)優(yōu)先檢查該站點(diǎn)的根目錄下是否存在（）文件。

1.填空題robots.txt文件是（）訪問(wèn)網(wǎng)站時(shí)要查看的第一個(gè)文件，它會(huì)限制網(wǎng)絡(luò)爬蟲的訪問(wèn)范圍。

2.填空題如果數(shù)據(jù)市場(chǎng)上沒(méi)有需要的數(shù)據(jù)，那么可以利用（）技術(shù)抓取網(wǎng)站上的數(shù)據(jù)。