当前位置: 生财有道图库 > 生财有道图库 > 正文

独家专访院士张钹:AI奇迹短期难再现 深度学习技术潜力已近天花



  在Alphago与韩国围棋选手李世石对战获胜三年过后,一些迹象逐渐显现,张钹院士认为到了一个合适的时点,并接受了此次的专访。

  张钹,计算机科学与技术专家,俄罗斯自然科学院外籍院士、中国科学院院士,清华大学教授、博士生导师,现任清华大学人工智能研究院院长。

  深度学习目前人工智能最受关注的领域,但并不是人工智能研究的全部。张钹认为尽管产业层面还有空间,但目前基于深度学习的人工智能在技术上已经触及天花板,此前由这一技术路线带来的“奇迹”在Alphago获胜后未再出现,而且估计未来也很难继续大量出现。技术改良很难彻底解决目前阶段人工智能的根本性缺陷,而这些缺陷决定了其应用的空间被局限在特定的领域——大部分都集中在图像识别、语音识别两方面。

  同时,在张钹看来,目前全世界的企业界和部分学界对于深度学习技术的判断过于乐观,人工智能迫切需要推动到新的阶段,而这注定将会是一个漫长的过程,有赖于与数学、脑科学等结合实现底层理论的突破。

  作为中国少有的经历了两个人工智能技术阶段的研究者,张钹在过去数年鲜少接受采访,秒查信用!360手机卫士新功能让“老赖”无所遁,其中一个原因在于他对目前人工智能技术发展现状的估计持有部分不同看法,在时机未到之时,张钹谨慎的认为这些看法并不方便通过大众媒体进行传播,即使传播也很难获得认同。

  “现在很多方面大家看的比较清楚,已露出苗头来了,我现在也接触到很多企业,找我谈这个问题,说明企业在第一线已经发现了很多问题,就想找个机会稍微说说。”张钹对经济观察报表示。

  人工智能在最近三年时间中受到的关注很大程度来自于其在围棋领域超越人类的“奇迹”,人工智能一次又一次的证明了人类“围棋智慧”优越的脆弱性。

  容易被忽略的是,尽管围棋复杂多变,但是与牌类游戏相较,围棋的规则简单,信息完全且确定这恰恰是目前阶段人工智能所擅长的。

  在张钹看来,尽管此前数年,人工智能在语音识别、图像识别、围棋三个领域显现了“奇迹”,但此后,这个“奇迹”再未在其他领域出现,其技术应用的边界和条件已经逐渐清晰。

  张钹:这一轮人工智能热潮是本世纪初兴起的。首先是出现在学术界。学术界过去对人工智能是冷遇的,但是多层神经网络的出现带来了一些改变,神经网络的理论在上世纪50年代就有了,但是一直处于浅层的应用状态,人们没有想到多层会带来什么新的变化。

  线年谷歌和斯坦福利用多层神经网络和大量数据进行图像识别的实验),过去实验的图像样本数最多是“万”这个级别,斯坦福用了1000万,用多层神经网络来做,结果发现在人脸、人体、猫脸三个图像类别中,这个模型的识别率大概有7%-10%的提高。

  这给大家非常大的震动,因为通常识别率要提高1%要做好多努力,现在只是把层数增加了,竟然发生两大变化,一个是识别率提高这么多;第二个是能处理这么大数据。这两个变化给大家非常大的鼓舞,何况在2012年之前,人工智能没有解决过实际问题。

  张钹:现在分析下来是三个原因,大家也都非常清楚了,一个大数据、一个是计算能力、一个是算法。认识到之后,一夜之间业内业外对深度学习都非常震动,然后就发生了三件历史性的事件。

  第一件事是2015年12月,微软通过152层的深度网络,将图像识别错误率降至3.57%,低于人类的误识率5.1%;第二件事,2016年微软做的语音识别,其词错率5.9%,和专业速记员水平一样;第三件事:Alphago打败韩国围棋选手李世石。

  通过人工智能,利用深度学习、大数据这两个工具,在一定条件下、一定领域内竟然能够超过人类,这三件事情给大家极大的鼓舞。

  特别是对于业外的人,都认为我只要掌握了大数据,利用深度学习说不定还能搞出奇迹来,于是大家做了很多很多预测,比如在多短时间内计算机会在什么事情上能超过人。

  但实际上,在这个之后,奇迹并没有发生,按照我的估计,今后也不会大量发生。准确一点说,今后或许会在个别领域取得进展,但是不会像之前预计的那样全面开花。特别是中国市场乐观的认为“中国市场大、数据多,运用又不受限制,所以将来奇迹一定会发生在中国”。

  结果很多企业在做的时候发现,不是那么回事。从目前的情况来看效果最好的事情还是这两件:图像识别、语音识别。我看了一下,中国人工智能领域20个独角兽30个准独角兽企业,近80%都跟图像识别或者语音识别有关系。

  经济观察报:为什么会出现这样的情况?或者说在这么长时间后,我们对人工智能目前能做什么有一个清晰的认识了吗?

  张钹:人工智能在围棋上战胜人类后产生了这种恐慌,“大师才能做的事,人工智能居然能做,我的工作这么平凡,肯定会被机器所替代”。这里需要考虑一下它的局限性,我一直在各种各样的会上谈到不要过于乐观。

  人工智能能做的那三件事(语音识别、图像识别、围棋)是因为它满足了五个条件,就是说只要满足了这五个条件,计算机就能做好,只要有任何一个或者多个条件不满足,计算机做起来就困难了。

  第一个是必须具备充足的数据,充足不仅仅是说数量大,还要多样性,不能残缺等。

  第三个是最重要的,需要完全的信息,围棋就是完全信息博弈,牌类是不完全信息博弈,围棋虽然复杂,但本质上只需要计算速度快,不要靠什么智能,可是在日常生活中,我们所有的决策都是在不完全信息下做的。

  第四个是静态,包括按确定性的规律演化,就是可预测性问题,在复杂路况下的自动驾驶就不满足这一条;实际上它既不满足确定性,也不满足完全信息。

  第五个就是特定领域,如果领域太宽他做不了。单任务,即下棋的人工智能软件就是下棋,做不了别的。

  经济观察报:就是说在满足这五个条件的前提下,目前的人工智能是胜任部分工作的?

  张钹:如果你的工作符合这五个条件,绝对会被计算机替代,符合这五个条件的工作特点很明显,就是四个字“照章办事”,不需要灵活性,比如出纳员、收银员。如果你的工作富有灵活性和创造性,计算机绝对不可能完全代替,当然部分代替是可能的,因为其中肯定也有一些简单和重复性的内容。如果认识到这一条就会认识到人工智能仍处于发展阶段的初期。不是像有些人估计的那样“人工智能技术已经完全成熟,而进入发展应用的阶段”。

  人工智能在本世纪第二个十年的活跃得益于深度学习领域的突破,深度学习搭建在神经网络之上,而神经网络的概念则脱胎于上世纪50年代科研人员对人类脑神经系统的研究和模拟。

  近三十年来数学领域,特别是概率统计理论的突破为多层神经网络的落地提供了基础——它们为多层神经网络和海量数据处理提供了有效的数学工具,但与此同时,“黑盒”学习法也成为深度学习的缺陷之一:即使人工智能能给出正确的选择,但是人们却并不知道它根据什么给出这个答案,人们无法像理解彼此一样去理解这个新的智能。

  图灵奖得主朱迪亚珀尔指出:尽管深度学习算法具有大脑的灵感,但它们也可以算作另一种强大的数据分析工具,是“曲线的拟合”。诺贝尔经济学奖得主托马斯萨金特则认为人工智能其实就是统计学。

  经济观察报:我们应该怎么去定义目前的深度学习技术路线,它是基于概率学的一个事物吗?

  张钹:现在的深度学习本质是基于概率统计,什么叫做概率统计?没有那么玄,深度学习是寻找那些重复出现的模式,因此重复多了就被认为是规律(真理),因此谎言重复一千遍就被认为真理,所以为什么大数据有时会做出非常荒唐的结果,因为不管对不对,只要重复多了它就会按照这个规律走,就是谁说多了就是谁。

  我常常讲我们现在还没有进入人工智能的核心问题,其实人工智能的核心是知识表示、不确定性推理这些,因为人类智慧的源泉在哪?在知识、经验、推理能力,这是人类理性的根本。现在形成的人工智能系统都非常脆弱容易受攻击或者欺骗,需要大量的数据,而且不可解释,存在非常严重的缺陷,这个缺陷是本质的,由其方法本身引起的。

  经济观察报:就是说通过改良的方式无法彻底解决?比如我们再增加神经网络层数和复杂性或者再提升数据的量级,会解决它的缺陷吗?

  张钹:改良是不行的,深度学习的本质就是利用没有加工处理过的数据用概率学习的“黑箱”处理方法来寻找它的规律,这个方法本身通常无法找到“有意义”的规律,它只能找到重复出现的模式,也就是说,你光靠数据,是无法达到真正的智能。

  此外,深度学习只是目前人工智能技术的一部分,人工智能还有更大更宽的领域需要去研究,知识表示、不确定性处理、人机交互,等等一大片地方,不能说深度学习就是人工智能,深度学习只是人工智能的一部分。一直到去年人工智能大会交流的论文还是三分之一是机器学习方面,三分之二是其他方面。

  张钹:我可以这么说,全世界的学界大多数有清晰的认识;全世界的企业界大多持过于乐观的估计。

  为什么出现这样的情况呢?因为从事过早期人工智能研究的人,大多已经故去或者年老,已经没有话语权。现在活跃在人工智能研究第一线的都是深度学习、大数据兴起以后加入的,他们对人工智能的了解不够全面。

  经济观察报:如果说每一个技术路线都有一个“技术潜力”,那么在深度学习方面,我们已经把这个潜力用了多少?

  张钹:科学研究是很难精确估计的,但是深度学习如果从应用角度,不去改变它,我觉得已经接近天花板了,就是说你要想再出现奇迹的可能性比较小了。

  经济观察报:那基于此,目前商业公司在底层技术和产业应用上还是有很大的空间吗?

  张钹:只要选好合适的应用场景,利用成熟的人工智能技术去做应用,还有较大的空间。目前在学术界围绕克服深度学习存在的问题,正展开深入的研究工作,希望企业界,特别是中小企业要密切注视研究工作的进展,及时地将新技术应用到自己的产品中。当然像谷歌、BAT这样规模的企业,他们都会去从事相关的研究工作,他们会把研究、开发与应用结合起来。

  经济观察报:有一种观点认为我们强调的“白盒”(可理解性)它实际上是从人的思维来强调的,但是通过大数据、概率统计工具离散到连续的投射,它实际上是机器的思维,你不一定需要它给你一个解释,只要正确的答案就可以了?

  张钹:目前有两种意见,一种观点认为智能化的道路是多条的,不是只有一条路能通向智能,我们通过自然进化产生了自然智能,那么我们为什么不能通过机器产生机器智能?这个智能和自然智能不会是完全一样的,条条大路通罗马,我们通过自然进化获得的智能也不见得是最佳的。这个观点我赞成,机器智能与人类不相同,其实是有好处的,恰恰可以互补,发挥各自的长处。

  但是从长远来看,必须得走人类智能这条路,为什么?因为我们最终是要发展人机协同,人类和机器和谐共处的世界。我们不是说将来什么事情都让机器去管去做,人类在一边享受。我们要走人机共生这条路,这样机器的智能就必须和人类一样,不然没法共处,机器做出来的事情,我们不能理解,我们的意图机器也不知道,二者怎么能合作?

  张钹:是,就是可解释性,你要它做决策,你不理解它,飞机就让它开,谁敢坐这架飞机?所以目前的阶段,车和飞机还是不能完全让机器开的。为什么司机坐在上面我们放心?因为我们和他同命运,要撞死一块撞死,机器和你可不是同一命运,它撞不死,你撞死了。

  有的人非常脱离实际的去想这个问题,这是不对头的,人类怎么会去那样发展机器呢(注:指把人类的命运全部交给机器)?人类不会去那么发展的,有些人在那边担忧什么机器人统治人类,我说这最多只能算远虑。

  张钹:是,那是远虑,我们目前还有很多近忧,发展人工智能必须要考虑安全问题,这已是现实问题。

  你看语音合成,利用现有的技术可以做到以假乱真,和真人基本没有差别。现在看来这种技术不能推广应用,因为一旦推广就全乱套了,只要搞一段用语音合成技术做成的假录音,就可以让任何一位名人身败名裂。这些都是非常危险的技术。人工智能的治理已经提到日程上了。

  人工智能在中国市场的快速商业化吸引了各类科研人员投身于此,在论文发表量和平均引用量两个指标上中国研究者表现出了竞争力,一种乐观的观点是“中国人工智能研究已经可以和美国并列”。

  对此,张钹院士则谨慎地认为尽管在工程、产业化层面的某些方面中国人工智能已经接近世界水平,但在技术创新上,中国与世界水平差距还很大,实际上,至今为止几乎所有的人工智能原创研究成果都来自于美国。

  作为中国人工智能科研的领军机构,清华大学也正在尝试改善这一情况,5月18日成立的清华大学“人工智能学堂班”(以下简称“智班”)是其中的一个举措。智班旨在培养人工智能领域领跑国际的拔尖科研创新人才,为未来一二十年的人工智能技术发展储备中国尖端人才,智班将从2019年秋季开始招收招本科生,首批预计招收30人,图灵奖得主、清华大学交叉信息院院长姚期智院士将担纲智班首席教授。

  “我们清华开办一个人工智能班就是基于这个原理。中国在几十年前曾经丧失了一些和国际上同时起步的时机,我想我们现在有一个非常好的机会,在以后十年二十年人工智能会改变这个世界的时候,我们应该在这个时候跟别人同时起步甚至比别人更先走一步,好好培养我们的人才,从事我们的研究”姚期智表示。

  清华大学副校长、教务长杨斌教授招生信息交流会的开场演讲中,拆解“人工智能”四字中所蕴含着的清华大学人才培养理念。他围绕“人”阐述了清华大学的“三位一体”教育理念、成人成才成群、人在才先、为国育士等;围绕“工”描述了清华人以此为生、精于此道、乐此不疲的工匠精神、追求做第一等事业的境界追求;围绕“智”解读了跳出“能衡量才发展”的怪圈、重视教育价值自在的清华思考;围绕“能”刻画了一代代清华人勇于担当、积极贡献的主人翁立场以及靠谱肯干、让人信赖的风格特质。

  经济观察报:一种观点认为中国有更多的数据和更多的工程师,这种规模能倒推带来基础研究层面的突破或者决定技术的路线?

  张钹:这里混淆了好多概念,科学、技术、工程。科技水平需要三个标准来衡量,一个是科研水平、一个是技术水平、一个是工程实践能力,或者产业化能力。

  我们中国什么情况?从工程角度来看,在一些领域我们“接近世界水平”;技术水平我用的词是“较大差距”,因为不少东西还是外国会做我们不会做;科研究领域我用的词是“很大差距”,科学研究就是原创,实际上,所有人工智能领域的原创成果都是美国人做出来的,人工智能领域图灵奖得主共十一人,十个美国人,一个加拿大人。

  经济观察报:数据显示中国在人工智能领域的论文发表量和被引用次数都已经进入前列位置,这是否说明中国人工智能科学研究领域的突破?

  张钹:如果单从论文来看研究水平,基本反映在三个指标上:数量、平均引用率、单篇最高引用率。拿人工智能来讲,中国研究者论文的数量和平均引用率都还不错,但是单篇最高引用率和世界差距就很大,而这个指标恰恰是反映你的原创能力。

  也就是说深度学习这个领域,我们的平均水平达到世界水平了,但是最高水平和世界差距还是很大的。不过还是要肯定的,我们应用上发展比较快。

  张钹:在人工智能重要的会议杂志上,这十年期间论文数量、平均质量CMU(美国卡耐基梅隆大学)排第一,清华大学排第二。我们培养的人,在计算机这个领域,清华的本科、博士生都是世界一流的。

  目前我们的跟踪能力是比较强的,一旦有人起个头,我们能迅速跟上去。但是很可惜,我们缺乏顶尖人物,也培养不出顶尖的人才,如爱因斯坦、图灵等。

  我个人认为原因之一,可能与中国的文化有点关系,我们的从众心理很严重,比如在人工智能领域,深度学习很热,发表的论文作者中几乎70%是华人,但是其他非热门领域,包括不确定性推理、知识表示等几乎没有华人作者。这就是从众扎堆,不愿意去探索“无人区”。

  当然也不要着急,科学研究本来就是富人干的事情,是富国干的事情,我们还是发展中国家,科学研究起点比较低,暂时落后是难免的,我们会迎头赶上。

  既有的深度学习技术到达它的顶点,好像难以发展了。但这不等于说我们不可以在它的基础上,向新的方向发展,走出一条新的发展道路。土豪神算实际上,这项研究正在进行中。

  张钹院士正在提倡第三代人工智能,按照目前的设想,新的技术路线应该要解决目前存在的不可理解性,脆弱性等缺陷,而这些可能还需要计算机科学与数学和脑科学的结合与突破。

  在上世纪,人工智能技术也曾经因为技术方向“碰壁”而经历过漫长的低潮期,未来我们还将再经历一次这样的过程吗?

  经济观察报:如果说深度学习已进天花板,那么人工智能未来的前进方向将会在哪?

  张钹:最近我们准备提出一个新的概念,就是第三代人工智能的概念,人工智能实际上经历过两代,第一代就是符号推理,第二代就是目前的概率学习(或深度学习),我们认为现在正在进入人工智能的第三代。原因很明显,第一代、第二代都有很大的局限性。

  张钹:我们现在提出的是要建立可解释、鲁棒性(注:可以理解为稳健性)的人工智能理论和方法,发展安全、可靠和可信的人工智能技术。

  张钹:这个目前我们有两条路,一个是和数学结合,一个是和脑科学结合。你想想如果没有新的数学工具,没有来自于脑科学启发下的新思路,哪来的新理论?另一方面是要把数据驱动和知识驱动结合起来,因为通过数学、脑科学上寻求突破是比较艰难的,前面这件事现在则完全能够做。

  张钹:是的,至少有一个方向就是要把第一代和第二代结合,利用各自的优势。但是这两个结合很困难,因为他们在不同空间中操作,一个是向量空间,一个是符号空间,也需要有新的数学工具的加入。

  经济观察报:看人工智能历史,每一代技术之间有很长的间隔期,第三代人工智能技术也会这样吗?

  经济观察报:会不会再过10年、20年,人工智能在学界或者公众心中,又变成一个“隐学”,就像70、80年代那样,大众又不会再经常提起来这个词?

  张钹:低潮会发生,但不会像过去那样,原因在哪?因为有大数据、互联网和强大的计算资源,这些都会支撑人工智能继续走下去,尽管有的时候还只是表面上的繁荣。

,六合聊天报码,亿码论坛网址422755,燃气热水器拨码大全,正版免费资料大全2017年72期,hao58123小鱼儿主页,http://www.755520.com,神算子成语解平特一肖,刘伯温买一肖一肖,8181226.com,2018彩图100tk历史图库,www.78033.com,http://www.99042.com,六管家婆和彩,www.389069.com,开奖日期,33324d.com,三肖必中特一,84384金多彩挂牌,080kj本港台开奖现场直播,免费香港澳门游,http://www.64088b.com,123408com官方,今期跑狗玄机图儿,338824.com,醉红颜4059con,2O19年7月18号什么节,www.868959.com,http://www.823377.com,80071.com,http://www.001152.com,曾道长2019全年资料,http://www.137799.com,阿根廷与委内瑞拉比赛直播,http://www.666588c.com,699139.com

,699139.com,82593a.com,新跑狗图每期自动更新香港马会,http://www.235046.com,金财神论坛,4676开奖快报白小姐资料,http://www.881883.com,www.6005600.com,789789手机报码,高手聚义堂190188com,福中福心水论坛王中王,本港台开奖现场结果,www.233991.com,东方心经今晚开什么码,990990藏宝阁开奖资一,48234b.com,www.323000.com,smh88.com

,smh88.com,曾道人资料库,www.618050.com,www.hk13661.com,六合采今晚开奖直播,今期跑狗玄机图132期,www.681212c.com,金广博,本港台手机同步开奖直播机看开奖,2019年台湾码全年资料网址,7471香港挂牌,王中王特马资,www.2880098.cc,www.www-21058.com,www.1322a.com,www.2340009.com,白小姐5码中特2O19年的次科,355x.com四海堂心水论坛,822281.com,今天晚上开码结果,香港财神网47333网,http://www.797077.com,18年开奖记录手机版,http://www.26262f.cc,红双喜开奖资料,通天心水高手论坛,www.98703.com,六台宝典下载2018,http://www.8473.com,http://www.510477.com,奇才高手论坛,6869hk开奖现场,2019有望结婚的星座,888593www34001

,888593www34001,501333.com,949794高手论坛,www444422con,香港六和开奖现场直播,http://www.178272.com,横财999932,马会开奖结果,kj138本港台现场报码,www.58767.com,491949.com,90666b.com,博码堂高手论坛49456,www.4333777.com,2019四不像玄机图四不像图,758777.com,白小姐论坛,118图库11867,http://www.www.60345.co,http://www.5638n.com,香港1861图库大全,夜明珠之标准开奖时间49223,http://www.82810a.com,78866.com,456298.com,彩色85556全年历吏图库,11149香港马会挂牌,http://www.13255a.com,香港开码结果,424886.com,www.a756333.com,一肖不中,4681nn.com,香港2018脑荕急转弯,001999.com,www.336363m.com

,www.336363m.com,41691a.com,http://www.64064.com,本港台开奖现场真播,2016年白小姐开奖结果,http://www.0102123.com,管家婆彩图四不像肖图,www.09333.com,81345.com,118富婆库库图118,http://www.www222034.com,www.488588.com,www.44080e.com,铁算盘论坛,金马会救世网论坛2019,状元红高手心水论坛,http://www.9966345.com,www.04844c.com,4887铁算盘一句解特马,金冠高手论坛,独平码二中一神算玄机,wvw-787873.com,46999玉观音高手论坛,90885公牛网三肖,http://www.9876533.com,六开彩开奖网站,56164.com,www.666554.com,最准的香港马图,大众cc最低价格,香港新一代管家婆,今晚马报开奖结果,http://www.335666.com,92lcom管家婆01025001,83567.4216con曾半仙k,www.65114.com,六合城特码论坛,www.666634.com,5678088.com本港台开奖结果直播

,5678088.com本港台开奖结果直播,知网相似图片,13515开奖结果,www-101444.com,http://www.7171a.com,www72767,http://www.www.xg667788.com,六合出码直播,藏宝阁45612,628833横财四句中特网,东方玄机满天星155kk,www.997997.com,33772.com白小姐,2019年123图库,手机看报,香港马会开奖结果直播,lol915.com,123448开奖中心,http://www.138255c.com,998kjcom手机开奖结果,永利高博彩网,www-80840.com,最远的狙击记录8000米,金湖论坛手机版
,33395香港开奖结果,85255创富图库,吉利平肖平码开奖结果,http://www.916363g.com,http://www.975577.com,香港六和彩公司,http://www.41456.com,www.24687b.com,世外桃园藏宝图历史,e乐彩都输了多少,43788.com,金财神www,8o8occ免费料,www.223343.com,阿三心水论坛,http://www.v5611.com,跑狗图玄机图,2018年白姐一句玄119期,香港正版挂牌,www.zhaofage1.com
,www.zhaofage1.com,533008b.com,57816网开码结果,香港挂牌全篇完整篇记录,彩虹心水论坛,香港马会水墨解码谱,正版管家婆马报彩图,本港台开奖现场直播地,新跑狗图毎期自动更新,香港现场报码开奖结果,kv555平特一肖,管家婆有没有免费版的,61005www财神爷图厍 ,61005www财神爷图厍,香港挂牌最完整篇彩图,天下彩报码,50488同福心水网50488,118181n.com,http://www.345989.com,1491马会资料现场开奖,77849.com,红太阳心水高手主论坛,至尊报2017年123全年图,www.678922a.com,http://www.42828a.com,0884一桶金开奖结果,农村新报,乖乖图库

,乖乖图库,530123.com,http://www.522880.com,彩6官网,493333管家婆图,64848开奖网,http://www.03808.com,4887开奖结果,jjjj003.com,www.p9y.com,十二生肖码报最新一期,金钥匙www609888com,本港台六肖公开,www.491678.com,tk358.com,757920.com,www.416666.com,手#65533;现场直播本港台现场开奖,43988con,066878猪哥坛,www.86979.com,怎样下载168掌上168b,246hao.com,http://www.1218a.com,755510i.com,www.25252f.cc,991996美女图香港,http://www.415757y.com,港台最快直播开奖结果,http://www.601234c.com,六合一肖,香港马会开奖结果,2017香港6最快,96年55期开奖记录,香港wo504王中王,六合开奖手机报码,www.33905.com

,www.33905.com,今晚六会彩开奖结果,www.lhczb.com,880444.com,今期跑狗玄机图二四六,铁算盘,2017江铃宝典,六合乐坊心水论坛,自小姐资料百宝箱论坛,www.www88979.com,跑狗图,34222.com,猪哥坛997733
,猪哥坛997733,ww448888nm,www.588567.com,777891x.com,noeⅴpn,宝贝心水论坛,www.08222.com,www.343833.com,http://www.484461.com,香港挂牌稳中七肖,挂牌,www.157123c.com,六合开奖结果,08599两肖中特,香港马会开码结果直播开奖结果,中特网,www.pan1666.com,香港金多宝,www.159kj.com,六开彩开奖现场直播,326111.com
,326111.com,大版六合皇,4887铁算盘,44447777香港九龙,30321香港马会高手论坛,3439b.com,財神爷论坛,www.www.722555.com,www.55059.com,ww04949.cn本港台开奖直插,7626266.com,香港苹果报纸,87654品特高手论坛,02049.com,498888王中王开奖结果,tk5588百合心水论坛,218219.com四海彩图,5uccp.com,夜明珠图片天然,手机开奖结果现场直播
,www.782233.com,http://www.baidu998.com,华为云图库上传太慢,www.139c47.com,本港台自动报码室,006688手机现场开奖直播,香港马会论坛445999,41939香港挂牌,数码挂牌一句话真言,铁算盘论坛,224123.com,本港现场开奖结果报码,一码中特网站,558777品特轩高手之家,香港最快开马现场直播,黄大仙救世报东方,570288h.com,b69698.com,香港马会老黄历,www.888067a.com

,www.888067a.com,78128本港台现场报码,85255创富图库说来就来,现场报码,4676开奖现场直播,红姐高手论坛1114888,神级追美高手,开马时间查询,杭州有没有训犬的地方,六盒宝典刘伯温论坛,盛世平特论坛,www.490006.com,79997cc论码堂聚天下高手精料9,www.097779c.com,六合图库,76588开奖资料导航,香港全年资料内部公开99kicc,118kj手机看开奖,www.900kk.com,094222.com,828501.com,九龙图库开奖结果查询,www.44811.com,http://www.49940.com,黄大仙高手网综合资料,www.795454.com,9.6hmm特区总站香港,818888大赢家马如龙,www.737321.com,http://www.778896a.com,香港挂挂牌,凤凰神算论坛,http://www.266456.com,533999.com,生财有道图库报码聊室

,生财有道图库报码聊室,白小相开奖资料今天,7月24是什么日子,香港伯乐汇论坛,www.2220744.com,777724.com,www.21033.com,5岁神童挑战计算器,2018刘伯温四字梅花诗,雅马哈4067,本港台同步报码室,宝码高手心水论坛,香港数码挂牌之全篇,六盒宝典491cc,02567开奖结果,四肖三期必出一期香港,333324.com,848848com开奖结果,高手论坛,跑狗论坛手机版9955966,124118118.com,http://www.044949o.com,红太阳WWW39555,www.www67tu.com,www.www233737.com,www.1111xg.com,www.556166.com,http://www.505508.com,静心图559955ccm,www.700888.com,现场报码室,黄大仙论坛,雷锋论坛,843458.com,789525.com

,789525.com,http://www.160680.com,黄大仙手机站,006676.com,港最快开奖现场2019结果,创富高手论坛,25799金光佛论坛,www.101444.com,48123.com黄大仙,44454铁算子黄大仙,小魚儿论坛开奖结果,49yy6合研究网2017全年资料,77800张天师全年资料,特区娱乐第一站,1861图库电信区,香港天下彩网资料64期,6合同彩开奖结果

,6合同彩开奖结果,香港正版挂牌之全篇,www.13255.com,www.rrrr007.com,039898.com,441144黄大仙441144,香港马会78000,5566的网址大全,48491.高手论坛,4jk开奖,港京图库最早最齐全122166,抓马王959049,311211黄大仙生肖资料,30545.com,论坛246网站,83399.cc,63311.com,王中王铁算盘开奖结果,2018年马报图库,556611香港马料资料,0340c0港台神算,www.303408.com,493333开马,58008香港现场开奖,动画玄机香港37337,http://www.707080.com,www.860213a.com,11515藏宝阁资料,天下彩4946免费资料,香港最快开奖现场直播,41151cm神算子论坛,ww4887铁算盘资料,一句话赢大钱主页图片,台湾福星彩888,王中王论坛www5059o9com

,王中王论坛www5059o9com,http://www.299777.com,香港六和合彩挂牌,tk27欣欣图库黑自看图,http://www.876449.com,天将图库3377看图区,大版六合皇,搜码网,949494救世网红姐图库,www.252532.com,1396me皇家世界开奖,http://www.333318aa.com,六合,582242.com,www.474911.com,www.568858.com,大富翁高手心水论坛,香港红牛网开奖资料,www990909con
,www990909con,www.226778.com,香港j2电视台直播赛马,www.28823a.com,http://www.976464.com,158338.com,99849.com每期提供,766766正版挂牌之全篇,香港理财婆当期图片,现场开码结果开奖,四肖期一肖,9433句中特诗,www.122822.com
,www.49606.cc,44799九龙高手,20192019年是什么年,http://www.bb4488.com,79455六会神话,http://www.053052.com,香港金财神中冰心论坛79388,990991藏宝阁开奖资料,天下彩6363us,2o19年四不像生肖图,2019年曾道四字成语诗,http://www.1344444.com,天下彩彩富网,神算子高手论坛凤凰网,www.946677.com,刘伯温论坛www.981717.com,http://www.664tk.net,www.84498.net,05987码博士不三不四,http://www.97888b.cc,www.208780.com,鬼谷子高手网,六合乐坊心水论坛,788360九州大帝心水论

,788360九州大帝心水论,558227.com,手机最快开奖,宝贝心水论坛07887,779808.com,57期四像图,香港神鹰心水论坛,东京都练马区,搜码网www888569con,www.606977.com,66kjcom开奖w现场直播,跑狗图论坛高青图片,1985年全年开奖记录,www.206789.com,667303.com,05987码博士百度,www.78hk.com,228香港正版挂牌,正版四不像133099c○m,包青天论坛中特,香港开彩结果现场直播,www.699438.com,www.2033266.com,www.xg3666.com,铁算盘论坛,本港开奖直播现场,http://www.04666.cc,手机看开码奖结果l,香港六开奖结果合彩,东方心经马报去哪找,235777水果奶水一心论l,红姐图库管家婆彩图,www.876m.com,13983h.com,http://www.4812555.com,www.234774.com

,www.234774.com,台湾乐透彩券,公益论坛www.844877.com,给几个网站你懂的贴吧,www.www.181920b.com,www.23460.com,http://www.86332.com,济公高手论坛94116,跑狗图玄机图解图今期跑狗图图片,香港马会搅珠直播,手机看开奖找kj118cm,本港台开奖现场直播开奖结果,白小俎开奖最快结果,582233.com六合奇缘论坛,香港中特管家婆彩图,香港小鱼儿手机开奖记录,九宫禁肖,http://www.9979978.com,管家婆开奖结果,http://www.18122.cc,青苹果家园,www.68498.com,2019年第二期新跑狗报,红足一世开奖现场,九龙心水8112cc,亚洲电视本港台图片,kj4399.om,脑筋急转弯大全及答案,www.47908.com,手机靓号码选号,www.16004.com,897038.com,550678.com,www.20239.com,99488.佛祖救世第一,手机最快现场开奖直播,www.www9999678.com

,www.990678.com,横财富高手心水交流,香港赛马会官方网,香港最快开奖现场直播,3452488.com,天下彩天空彩与你同行,香港杀庄网最准资料,80845a.com,1861图库护民图库大全,552558好日子心水网,66567公开高手论坛,马经开奖现场,37496b.com
,37496b.com,393970k.com,33611.com,港京图库开奖结果,789321.com,1668手机看开奖现场直播,香港同福心水论坛,夜明珠开奖ymzo1,19919聚宝盆九龙精英,www.ymz789.com,www.466770.com,抓码王,168开奖现场直播开奖记录62
,168开奖现场直播开奖记录62,http://www.04313.com,www.769464.com,9189118k.com,www.998876.com,葡京赌侠,http://www.849999.com,18kjcom本港台开奖香马8会资料,123123456扬红心水论坛,www.www.481323.com,六合开奖,抓码王111159,挂牌之全篇(最完整篇)
,挂牌之全篇(最完整篇),http://www.528580.com,刘伯温传奇3肖3码,www.79111bb.com,83期官方马报,www.aa151.com,http://www.bzvip6.com,www.kj8888.com,项目需求管理系统,香港马会唯一官方网,84111.com,www.873888.com,m.手机开奖看
,m.手机开奖看,www.595920k.com,http://www.jinduocai.cc,金光佛马会开奘结果,醉红颜朕的倾城鬼后,www.633188.com,http://www.84507a.com,www.559696a.com,呜呜呜084CC,www.www-860000.com,http://www.f1987.com,www.www.29799.com,www.xglhc01.com
,www.xglhc01.com,马经历史图库258tkc,http://www.854447.com,www.tv.com,秦王是谁,www.802583.com,666200.com,这期六开彩开奖结果,哪个网站可以买图片,三肖二码,三肖6码免费公开默认版,www.888700i.com,http://www.402333b.com
,http://www.402333b.com,61188黄大仙精准出码,www.413555.com,平特王心水论坛,http://www.678999.pw,六合88C,006066.com,生肖神吊坠,小鱼儿论坛跑狗图论坛,五鬼久合资料AB2017,香港慈善网,499678金多宝心水论坛,本港台最快开奖现场
,本港台最快开奖现场,79900满堂红开奖结果,www.24898z.com,布衣图库全图,kj02.com,http://www.13983h.com,http://www.38830.cc,www.214599.com,www.563366.com,管家婆图库118,888180a.com,香港白小姐彩图玄机报,123560高手
,123560高手,www.xg132111.com,4905w.com,手机看开奖结果找k8858,香港百合图库总站,8000628.com,999249.com,刘伯温网址555715,白小姐高手论坛844300,http://www.49504.net,www.345601.com,9889900.com,惠泽社群ok1488资料
,惠泽社群ok1488资料,606u.com,www.882884.com,2019六开彩现场直播开奖结果,跑狗图出版新一代论坛b5043,香港金钥匙380555心水,www.90819.com,2017东方心经彩图Ab,黄大仙78345心水救世报,http://www.64068c.com,525880.com,http://www.8849111.com,玉观音二码中特066266
,玉观音二码中特066266,www.006861.com,783333e.com,开奖网WWW987kjC0m,1861彩图图库三五图库,8799.cc,5848红姐图库,苹果日报,773353c.com,香港正挂挂牌彩图,bflc123.com,开奖直播888593C0m,505888金虎堂首页
,505888金虎堂首页,www.288448.com,http://www.505552k.com,www.www43601.com,39期正版四字梅花诗,333111王中王网站,www.49915a.com,金蝉子必中六肖论坛,香港马会开奖结果直播,dns118.cc,498888开马,http://www.www-866601.com,118kj开奖现场开奖记录青蛙网
,李力勇通天报一铁锋塔,九龙至尊预测网,0412马报资料,六合宝典210678,090091.com,www.999309a.com,跑狗玄机网456056,http://www.666221.com,查看2019年开码直播,2019今晚61开什么码,78878藏宝图,226699.com,www.955222.com,稥港挂牌玄机,tk1861图库彩图小神算,www.57778k.cc,ww小神算567338,www.30509.com
,www.30509.com,財神高手,香港最精准马料2019,香港六和彩挂牌,168开奖结果118kj.com,3814.com,郑裕玲黄渤金马奖视频,185jk开奖现场,888211.com,www55049.com,997171h.com,四海图库,www.542555.com,香港现场开码网站,皇冠网开奖结果资料,www.060799.com,33504香港王中王,78878世外桃源藏宝坊跑狗图
,78878世外桃源藏宝坊跑狗图,宝宝论坛5288888中特,香港最快开奖现场直播,http://www.00699.com,http://www.vbet.la,84777黄大仙精准出码,64777.com,www.61633.la,http://www.003357.com,136477.com,铁算盘论坛,香港第13期四不像,www.708666d.com,http://www.877835.com,管家婆心水高手论坛,www808777,彩民之家论坛234508,http://www.48448888.com
,http://www.48448888.com,赢天下高手论坛,www.444479.com,32280b.com,0447铁算,今期家婆玄机彩图今晚,www.68kj.com,香港开奖现场直播结果,kj138本港台现场报码,16799kj手机开奖结果u,王中王最早资料,王中王开奖493333,33376e.com,118开奖直播现场网,http://www.13518.com,1000000人看跑狗论坛2018,http://www.567949.com,661668白小姐图库
,661668白小姐图库,手机看开奖结果22249,刘伯温心水来料,968484k.com,848484真道人救世网,天一论坛,555660白姐图库百度,香港马报83期一,2019年特马开奖记录,http://www.272780a.com,http://www.07773c.com,香港财神图库61005,www.186gp.com,3374财神网资料li3374,3734999.com,http://www.589998.com,http://www.966937.com,2018香港开奖现场直播
,2018香港开奖现场直播,盛杰党高手之家262222,香港苹果官网网址,614979.com,38994.com,8366a71.com,http://www.tm8833.com,中金心水3410,马报,葡京赌侠2o丨9正版,香港九龙图库正版,香港马会开奖结果论坛,308080马会资料,跑狗玄机一2017年彩图2m图库,991996美女六肖图132期,香港赛马会六和彩,老夫子论坛104949,皇冠心水论坛
,皇冠心水论坛,香港内部一肖一码精准一肖一码中特,港彩二四六跑狗图,www.591234A.com,2017新版白小姐祺袍a,931929.com,另版葡京赌侠资料2019,www.54587b.com,118cc开奖,758777.com,http://www.13601j.com,50818com品特轩,2019年生肖五行对照表,473434.com,30005678.com,118CC九龙图库一站二站三站,香港本期开奖结果,64535青龙论坛心水网址
,64535青龙论坛心水网址,70074道曾白,香港1861图库正版,99991111.com曾半仙网,168图库联盟,2019香巷开奖现场结果播马,4887铁算盘资料王中王,王中王高手心水论坛,www.845667.com,http://www.234976.com,香港跑狗图993994,http://www.167000.co,王中网网站五连肖平特,http://www.62520.com,http://www.5188ok.net,香港马会资料www44552,挂牌玄机图七肖图,www.59554.com
,www.59554.com,亚洲365高手论坛,90tif九龙图库,http://www.bbs22.com,www.hk9084.com,曾道人救世网949494天空采,http://www.3338884.com,波肖门,香港马会开奖现场报码室,今天晚上开码结果,牛母壬管家婆07o期四不像彩图,www.55496.com,www.49618a.com,门市心水论纭高手开奖记录,www.73770.com,55887开马特别号,港台神算,香港伯乐汇高手论坛
,香港伯乐汇高手论坛,00432.com,www.4998222.com,彩库宝典,03668特马王,13878彩色传统图库,最快开奖结果现场直播,下载六宝典安装2018,www.8400400.com,百合图库总站,香港马会开奖结果直播123,www.004116d.com,http://www.576678b.com,56758彩霸王,www.www-722733.com,现场开奖直播,天下心水论坛,http://www.130555.com
,http://www.130555.com,6cccccc世外桃源百藏宝图,16kjcom开奖直播,王中王心水论坛85777,惠泽专业六合论坛,mimics售价,656228.com,王中王中特马,曾道中特玄机特吗,www.cccpppkkk.com,彩缘网改网站了吗?,牛牛论坛165555con,13854现场报码室,一点红码开奖,优彩社区会惠泽,13579co王中王资料独家,香港官方透特1码100中,管家婆六令彩开奖结果
,管家婆六令彩开奖结果,香港管家婆778849,www.887171s.com,355255c.com,www.49933.com,ww399399王中王931一,772321.com,金多宝高手论坛,www.54709.com,十五码中特公开discuz,九龙开奖结果,横财富48111看图解码,http://www.77787f.cc,167167799kjcom看开奖结果,www.65507.com,http://www.88kj.cc,57976开奖,香港马会资料大全网
,香港马会资料大全网,www.686688.com,www.11144b.com,香港馬會论坛,999000二波中特,1183图库彩图官方网站,138kj本港台开奖直播现,www.44799.com,2O18驾考宝典,http://www.445977.com,宝贝心水论坛,挂牌全篇,63208香港马会千里马,415252d.com,通宝高手论坛509987,平码三中三050609,香港赛马会,484848王中王直播现场
,484848王中王直播现场,www.123tu.com,2017年123全年黑白图库,翡翠社区,http://www.777304a.com,10块钱平特一肖多少钱,2016香港开奖现场直播,http://www.199360.com,www.01662.com,红楼梦马会心水246033,www.2805a.com,金码会香港内部网,www.s8s6666.me,夜明珠预测之一ymzo3,www.y4945.com,香港最快开奖现场直播开奖结果,499333.com,http://www.63889.com
,http://www.63889.com,242333.com,www.th678.com,http://www.0163b.cc,http://www.www.89135.com,88606六肖王,990888开奖中心藏宝阁,345432.com,杀一波精准规律公式,826789.com,管家婆2018正版资料,123ki开奖网本港台现场直播,http://www.335505.app,www.111765a.com,创富论坛www55888co白,创富金融,216678.com,815555黄大仙册除
,王中王100期必中六肖,http://www.www.057222.com,smh66822.com,229911夜明珠预测,www.900988.com,www.4607.com,搜码网www888030ocm,www.888317.com,54期新报跑狗玄机图2018,www.889907.com,dd544.com,www.805000.com,www.66330666.com
,www.66330666.com,19876码博士香港,财宝神算檀129999.com,www.wwvv-4534.com,世外桃源心水180666,http://www.830226.com,32996黄大仙救世网正板,813020.com,57999小马哥香港马会,11303管家婆,118kj手机看开奖,王中王铁算盘开奖结果2018年,www.44679a.com
,www.44679a.com,990990藏宝阁990991.藏宝阁,www.551324.com,0449香港杀庄家头数永久公式,www.981116.com,6h888.hk白小姐资讯站,能喝彩开码结果第91期开奖结果,今晚开奖现场直播,群英会开奖出好图表,www.225688b.com,www.kj666.com,www.0000345.com,管家婆图
,管家婆图,249555.com,公益论坛109999com香港,4672香港开奖结果,香港挂牌,http://www.yf4.cc,88504香港马料,吉利高手坛,世外桃园,90888高手论坛开奖结果,六i和彩今晚开奖结,http://www.422424h.com,心水论坛
,心水论坛,丨118论坛,开奖记录走势分析图表,679333.com,香港马会开奖图库,www.099899a.com,2019精准三中三不改资料论云,香六哈彩白少姐开九,276363.com,699289.com,香港挂牌之全篇,www.929154.com,www.78864.com
,www.78864.com,93499开奖直播中心,http://www.000049.com,www.255530a.com,奇人偷码209558,01kj手机第一开奖直播现场,六合图库,611190k.com,香港财神到官方网55456,688677a.com,天下彩免费资料大全彩tx128.cc,2018cba半决赛赛程,www.23461.com
,www.23461.com,高手论坛杀一肖有奖赛,香港铁铁算4887正版,新一代的跑狗主论坛,http://www.118oooo.com,香港生肖开奖结果,2017年黄大仙天机诗,王中王心水论马公资料大全,www.628833.com香港中特网,www.34563.com,201978.com,www.28872.com,118图i厍九龙图库乖乖图库
,118图i厍九龙图库乖乖图库,999018四肖三期必出,11303管家婆开奖结果o,129999b.com,挂牌玄机图,http://www.118632.com,九龙心水―8112cc,六合现场开奖结果,323848.com,开奖现场,84888.com,www.438788.com,香港马会18点来料
,香港马会18点来料,www.255169.com,诸葛神算论坛www.678272.com,http://www.www.6908.cc,香港六合彩免费资料,黑光图库新娘造型,http://www.1182030.com,王中王最快开奖现场,http://www.889393.com,992449.com,388Kj开奖现场直播,钱多多心水论坛64949,www.www154567.com
,www.www154567.com,抓码王论坛,品特轩之高手开奖记录,广州传真猜特诗2019年31期,962530.com,雷锋报,http://www.0118zl.com,185kj手机看开奖资料,神童网6hst二五七肖中特,http://www.111410.com,33666.com,http://www.559550.com,一码中特马
,一码中特马,www.40779.com,55yyus釆金网,70844.com,www.120hk.com,香港马会彩经图片85期,http://www.94330.com,天下彩天空免费资料大全,http://www.225688b.com,2019年香港60期开奖结果,505606.com,开奖直播论坛,优彩彩票
,优彩彩票,创富心水平特论坛,79888心连心买马,http://www.www-66hh.com,总冠军心水论坛,www.496949.com,东方红官方网站,小鱼儿0k2727,92002白姐中特玄机,潘金莲心水论坛,聚宝盆,www.568877.cc,097779b.com
,老地方的雨简谱,56期正版跑狗图,特围论坛,封神榜心水论坛,kj138本港台现场报码l,蓝月亮资料免大全二四六,今晚澳门码开奖结果,500507玄机彩图百度59,http://www.49033.com,www.tm49.com,白小姐21033金牌六肖,138三中三免费公开期期,好运来心水论坛399600,www.201535.com,118论坛神童宝马论坛,www.150515.com,http://www.239191c.com,www.56027a.com,博码堂心水论坛,http://www.515666.com
,http://www.515666.com,香港来料蛇报中彩涂,福中福心水论坛622722,1码中特,财神高手论坛,广东高手论坛社区,www.ww2299.com,香港财神爷心水资料,2018马经精版料,www.7779838.com,白小姐祺袍a黑白图2019,055999a.com,第69期香港马会管家婆特马图,曾夫人论坛,香港757888神算天师,61年属牛2017,2018年开奖结果,3493神算天师3493开奖,www.yth006.com,www.34kj.com,www.11119000.com,品特轩高手之家
,品特轩高手之家,www.pr338.com,http://www.487566.com,天天看高清,6hckom皇家彩库下截,好彩堂400500特马官网,29988com神算孑论坛,158kj开奖直播手机版,099128六开彩心水66755,068期管家婆彩图,四不像一语中特,天龙图库旺角心水论坛,664662.com,www.49791a.com,9249ss.com,七匹狼心水资料,2017年开码历史记录,08422开奖记录

,08422开奖记录,六合现场开奖结果,乐彩论坛17500,今晚开什么码,49189a.com,铁算盘,香港挂牌玄机,01368l.com,www.4862aa.com,http://www.921133.com,管家婆彩图大全,http://www.02698.com,香港天下彩全年资料,淘金论坛,香港管家婆四不像正版2o18,香港白小姐一肖中特马,白姐玄机,手机看开奖最快34345CC,44561.com,合数单双中特公式,奇人码王654777och,百家神算,六合彩开奖现场,http://www.191004.com,曾夫人论坛资料公开区,www.118gy.com,43886神鹰心水论坛三肖,铁算神算子,http://www.40430.com,2015香港正版挂牌,马经258tk,一码大公开你敢买吗,http://www.888560.com

,http://www.888560.com,6hckj.cc,诸葛神算,平特一肖论坛图平特图,19972011.com,118开奖直播现场香港i,www.68055.com,红姐心水论坛高手论坛,http://www.567666.cc,com2017年奥葡京另版,创富论坛55888肖中特,www.370202.com,2018金马会救世网玄机,www.979108.com,http://www.303kjz.com,香港j2电视直播分享码,香港六合开奖结果直播,香港挂牌玄机,香港特马网站最准免费,740567.com
,740567.com,www.www.xg4567.com,03899.com,22344忘不了8码中特一l,本港台现场报码视频,www.6155111.com,www.www333197.com,www.609118.com,手机现场报号即时开奖,http://www.02595.com,http://www.7778889999.com,手机看开奖23144,www.137556.com,2018香港挂牌完整篇,www.2993996.com,悟特玄机网,特码王论坛www.005382.com,www.8877tm.com