Robots协议案:百度败诉于360 法院判为自由竞争

百度与360公司爬虫机器人不正当竞争纠纷案，又被称为Robots协议案，是中国搜索领域爬虫机器人竞争第一案，该案关系互联网行业尤其是搜索引擎的基本游戏规则而广泛被业界、政府和网民关注。8月7日，该案宣判，北京市第一中级人民法院驳回了百度有关不正当竞争的诉求，表明百度单方面利用歧视性Robots协议打击竞争对手的行为不会被公众和法庭所支持，而360则可以继续抓取百度的内容网站。

据悉，Robots协议由荷兰籍网络工程师Martijn Koster于1994年首次提出，是一个被放置在网站中的.TXT文件，为搜索引擎爬虫做出提示，设置允许与不允许两种语句，网络爬虫据此“自觉地”抓取或者不抓取该网页内容。Robots协议的目的，是为了保障著作权、保护个人隐私，尽可能地让互联网健康发展。

虽然名为“协议”，但Robots协议只是行业惯用的说法。它既不是法律意义上的协议，也不是国际组织采纳的标准，因此不受任何机构保护。而百度的Robots协议的特别之处，在于其白名单机制——允许除360之外的搜索引擎访问百度网站，这种白名单在全球是绝无仅有的。

“从百度对360的诉讼来看，有不公平竞争之嫌。”知名IT人士于刚表示，把Robots协议的作用强调于奇虎360身上，而自己却在抓取其他搜索引擎内容或网站里的视频、音乐文件时忽视Robots协议。这样的行为，并非Robots协议初衷。

己所不欲勿施于人，为何百度在robots协议面前，采用两套做法?答案很简单，打击和封堵直接竞争对手360搜索的自由发展。

业内人士分析，360的产品一向以迅速扩张著称，当年白手起家的安全产品如此，今日拥有几亿用户并有入口优势的360更不容小觑。而搜索，是百度的根本，百度不会坐以待毙，眼看着搜索市场被360分割。

据庭审资料显示，谷歌退出中国市场前，国内的搜索引擎市场百度占到60%，谷歌占到20%。在谷歌退出中国市场后，百度占到了80%的市场。2012年8月16日，360正式推出搜索引擎，并在上线6天后，占据中国搜索市场10%的份额，成为仅次于百度的第二大搜索流量来源。至2013年9月，百度的市场份额从81.49%直线下降到63.14%，而360搜索则占到了19.04%。

所以，为了反制360，百度迅速采取了措施，将所有来自360搜索的用户请求跳转至百度首页，用户需要二次点击才能得到搜索的结果。另一方面，便是在百度知道、百科、贴吧等产品在Robots文件中禁止360搜索抓取索引。根据用户协议，这些内容的版权并不归属于百度，而是归生产和制造这些内容的用户所有。

即使是百度公司的专家证人，也在庭审中表示设置Robots协议一是从技术角度，避免网站服务器被攻击瘫痪;二是从内容角度，避免用户留在其他网站而不到自己的网站浏览。对于限制搜索引擎抓取应有的行业公认合理的正当理由，百度专家证人也说不出来。

中国政法大学法制新闻研究中心研究员陈杰人一针见血地指出，百度建立Robots协议白名单，只限制360搜索进行内容抓取，具有一定的歧视性，其目的显然不是维护产品间游戏规则的健康有序，而是将Robots协议作为一种打压对手的竞争工具。

众所周知，作为全球最大的中文搜索引擎，百度搜索的强大，不仅体现在其爬虫机器人的抓取能力，还体现在百度自身就是一个有海量信息的内容网站。百度知道、百度百科、百度经验、百度音乐和百度旅游等内容网站囊括的信息量之巨，足以决定像360这样的搜索新手的生死存亡：如果360搜索无法提供上述百度内容网站的信息，必然被网民认为信息不全而夭折。

也就是说，对这些百度的内容网站，360搜索要么抓，要么死。由此可见，法院为了维护互联网的正常秩序，驳回了百度诉360不正当竞争的诉求。

就该案，互联网业界专家、博客中国创始人方兴东认为，Robots协议是个很好的东西，但百度很明显，他希望把它当成一个竞争攻略，为自己建一个竞争壁垒，最好百度每个网站都能抓，而别的搜索引擎都不能抓取。

“我觉得这样的话这个事情就变成非常严重的事情，因为我们原来做个网站也没有说什么都是协议，做一个网站肯定是大家可以自由看的，然后搜索引擎可以自由抓取。如果以后我们每个网站都要先定义一下，哪几个网站能让他抓取，哪些能让他看，那互联网基本的信息自由那就完全变味了，整个互联网秩序就乱了。搜索引擎这个扭曲在这个社会也好，在互联网产业也好，影响非常大。我觉得这个事情在搜索引擎行业里真的是越来越严重。” 方兴东说。

互联网市场没有那么明确的先来后到。网民用之、弃之是瞬间决定并完成的事情，这也决定了互联网行业的竞争一刻都不能停歇，因为喘息之间可能已经有几十、几百万用户的得失。激烈的竞争更需要公平合理的竞争规则，否则过于放任的竞争会让互联网行业变成屠场并最终走向垄断。届时，中国互联网将从互联互通的信息海洋变为一个个信息孤岛，开放、平等、协作、分享的互联网精神在搜索引擎服务领域将不复存在。

在本案的判决书中法院写道：规则的缺失会让互联网行业陷入“丛林法则”的误区，但同时，市场竞争需要给每一个竞争者公平的竞争环境，即使是后进入市场的竞争者，也应该有公平的竞争机会，以免陷入“丛林法则”中强者可以任意欺凌弱者的误区。判决书中还提到：360已经多次向百度表示要求修改robots协议，该主张是清晰明确的，而百度未能明确提出拒绝360的合理理由，故对《自律公约》签订之后，百度主张360构成不正当竞争的主张本院不予支持。

这个案件中，法院在没有明确的法律可以适用的情况下，表现出难能可贵的开拓精神和创新勇气，捍卫了互联网开放、平等的互联网精神，为互联网行业的自由竞争和健康发展开辟了道路。