Ailsa：SEO是如何依賴技術分析的

Ailsa：SEO是如何依賴技術分析的
發佈者:作者:Web Design香港網頁設計大皇 - SEO優化
網上廣告
　　07年以前的阿里巴巴，經過幾年的努力，已經把SEO做到了一個很高的境界。當時領導SEO團隊的人員是做技術出身，所以大家大量借助技術手段來分析和解決SEO當中出現的很多問題，取得了很好的效果。因為涉及到現有的業務，只能說幾個不那麼敏感的例子。
　　Google 網站管理員工具剛出來的時候，我們網站有很多頻道都驗證不了那個google需要你上傳的文件。工程師那邊幫助查了很多問題，以為是什麼跳轉之類的沒有做好。查了很多資料，也沒有找到特徵吻合的相關解決辦法。而meta驗證的方法因為技術上有一點問題做不了。所以我們SEO團隊就幫工程師去找問題。我同事瞿波不一會就找出問題出在什麼地方了，原來問題出在泛解析上。
　　具體的過程是這樣的：
　　用了泛解析的url，無論你把url組合成一個什麼樣子，都會有一個正常的頁面給你的。比如：如果你網站的根目錄下用了泛解析，http://webdesign.zoapcon.comcom/a.html 這個url是你網站本來正常的url。那麼你隨意的輸入一個本來不存在的url 如 http://webdesign.zoapcon.comcom/adasdsadw.html 甚至 http://webdesign.zoapcon.comcom/@####￥￥.html ，網站CMS返回的都是一個正常的頁面。
　　這在一個大型網站中，很多地方出於業務需要，都是這麼處理的。但是這樣做，在“網站管理員工具”的驗證方面就一定不能通過。為什麼呢?
　　因為這樣誰都可以把這個網站加到自己的網站管理員工具中。而實際上這樣的情況是不會發生的，因為google不光會驗證你上傳的文件存不存在，還會驗證一個不應該存在的文件是不是不存在。google驗證完你上傳的文件後，接著會模擬一個叫做 google404errorpage.html 的頁面是不是不存在。google覺得你網站根目錄下恰好存在一個名叫google404errorpage.html的幾率是零，所以如果檢測下來發現你這個頁面也存在的話，那就不能驗證通過。google這個時候已經知道你這是因為泛解析導致的緣故。出於保護你的網站，google不會讓這個驗證通過。
　　上面的這個分析過程，在公開的渠道裡是找不到的。現在在《google網站質量指南》裡也只是讓你給不存在的頁面返回 4xx 狀態碼而已。http://webdesign.zoapcon.comcom/support/webmasters/bin/answer.py?hl=cn&answer=35638,而且這個規則也是最近加進去的。以前，根本找不到相關的資料來參考。那我的同事為什麼一下子就找到問題在哪裡了呢?那是因為服務器的log日誌裡一定會記錄google驗證的這個過程的，把相關目錄下、某個時間段的log日誌調出來查看就可以看到了。
　　如果沒有LOG日誌分析，誰能想得到還有這麼一個過程在裡面呢? 至今，還有很多網站驗證不了這個文件的，現在就可以看看有沒有這個泛解析的問題，或者去分析log日誌看看。還有一次，網站改版後，網站流量驟然下降了。我們知道影響SEO流量的因素有很多，那到底是什麼原因導致流量下降呢。我以前的主管BEN通過自己的分析，覺得是url出了問題。
　　當時的url是這樣的： http://webdesign.zoapcon.comcom/bin/buyoffer/mp3.html，我想很多人都不會覺得這個url有什麼異常。但是在當時，這個url有一個致命問題的。
　　在02年google的爬蟲還不是很成熟的時候，為了避免陷入死循環，爬蟲不光會對那些有多餘參數的url抓取量減少，還會對某些特定的目錄不抓取的。這樣的目錄中，就有 /cgi-bin/ 以及類似的 /bin/ 這樣的目錄。學過CGI語言的人都知道，/cgi-bin/這個目錄下是放置cgi程序的地方，這種目錄下進行抓取是沒什麼意義的。/bin/這個目錄也是其他很多系統或者語言默認的文件夾名稱，這些目錄下都不存在google應該抓取的頁面，所以搜索引擎就屏蔽了這樣的目錄抓取。而偏偏我們定義的文件夾名稱就是/bin/，google是不會抓取這個目錄的。
　　之後，把這個目錄名稱改為/trade/，流量馬上就恢復了。如今，百度也在robots文件的用法中，就拿/cgi-bin/這個目錄做了例舉。 http://webdesign.zoapcon.comcom/search/robots.html，我相信這樣的問題即使放到現在，也沒有人敢懷疑是google本身出了問題。有些人還會從上百個因素裡找一個看似很合理的原因，導致真正的原因被掩蓋了。但是ben通過技術分析並實踐，卻得出了讓人信服的結論。類似的事情，我後來也碰到過好幾回，因為有他們的經驗在鼓舞我，使我也做了一些讓別人不能理解，但是卻給網站帶來很大流量的事情。
　　技術分析在和競爭對手搶流量的時候，也是競爭力之一。舉一個不那麼恰當的例子：
　　sitemap.xml剛出來的時候。我們自己製作好了sitemap.xml文件，但是畢竟這麼大型的sitemap文件誰也沒有做過，特別是裡面權重的設置在一個大型網站來說是很有講究的。所以我們就想參考一個國外主要競爭對手的文件。一開始通過一個方法拿到了他們的文件地址，但是怎麼也打不開那個鏈接，老是返回404錯誤。通過國外的代理服務器去訪問也是這樣。最後，通過模擬google爬蟲才能正常的訪問這個文件。 原來同樣非常重視SEO的這個對手，為了讓自己的sitemap.xml文件不被其他人看到，只有對那種user-agent是google爬蟲的訪問才顯示這個文件，由於瀏覽器的user-agent是很容易判斷出來的，就攔截掉了瀏覽器的訪問。
　　《怎麼樣去學SEO》一文，講述了學SEO要從瞭解網站和搜索引擎相關的技術開始。而這篇文章就是讓大家看看具體是如何應用的。阿里巴巴最早做SEO的那批人，早在國內還不知道SEO是什麼的時候就已經涉及到了諸多技術問題，並馬上取得壓倒性的優勢。雖然現在他們因為某些原因都沒有在做SEO了，但是他們給網站的貢獻是非常大的。我個人的觀點: 從某方面來說，是SEO成就了alibaba。
　　原文地址：http://webdesign.zoapcon.comcom。網上推廣