开云网页版登录入口 时评
日前,有着 9000万粉丝的微博大号@头条新闻,在转载一篇重要的时政新闻时出现严重错误,原发新闻单位立马发布声明,原发稿正确无误。新浪@头条新闻 不久也公布原因,转载是自动抓取,已停更整改,并处理相关责任人。“自动抓取”,当然是人工智能软件啦,这不,AI(也即人工智能)又一次大型翻车啦!
近年来,近年来,随着深度学习技术的快速发展,AI人工智能迅速成为一个久不退烧的热词,从虐遍围棋高手的AlphaGo,到无人驾驶技术,再到疫情期间,各款机器人的神勇,似乎一夜之间,人工智能就变得无所不能、无处不在了。但人工智能也屡屡出现翻车现场,随便一搜,宁波的人工智能系统在其将闯红灯的一名行人误识成董明珠并且展示在大屏幕上;杭州小学生用打印的照片,开启了刷脸自动识别的丰巢快递柜。国外同样如此,在美国,一款号称服务两万所学校的AI阅卷系统遭到质疑,学生们只要借助系统漏洞,输入相应关键词,即使关键词之间并无关联,也能轻易获得高分。微软由AI编辑代替人工编辑,负责MSN网站的新闻抓取、排版和配图等工作,但到岗没多久就“翻车”了,AI编辑在寻找配图的时候,把非裔歌手Leigh跟阿拉伯裔歌手Jade弄混了……
屡屡翻车的人工智能应用,谁之过?
我们必须旗帜鲜明地说,技术并无对错,如果错了,那错的也是开发和应用技术的人!目前的人工智能技术,应该还是初级阶段,仅仅是在某些方面可以达到或略超过人类的水平,离科幻电影里人工智能拥有自我意识,并会反制或伤害甚至摧毁灭绝人类,简直相距N个纪元。初级阶段的人工智能技术,仍属于技术底层的“弱人工智能”,而这样的“弱人工智能”由于技术的不完善,时不时“弱智”一下,屡屡翻车就不奇怪了。
再回到自动抓取转载这个翻车现场,这责任当然是技术开发者、应用维护者,当一项人工智能技术并未成熟到可以用来自动抓取转载重大并且零容错的时政新闻时,出事翻车不是会不会,而只是何时出的问题了。
人类社会要发展,科学技术要进步。人工智能的发展和普通应用,这是大势所趋,我们也不能因噎废食,放弃或者谈AI色变。作为初级阶段的人工智能,人类也要给予宽容之心,AI的成长就是不断学习。技术上应用中完善,BUG也需要在运行中搜寻捕捉。
创新需要容错,对于人工智能的“容错”,也是发展道路上必须有此的胸怀。当然,“容错”必然有区间、边际,一些不可承受的差错,如之前的波音737MAX“自动防失速系统”,以及抓取转载时政新闻等,都必须保证零差错。如果技术无法实现而匆匆投入应用,那这样的翻车,同样是作为决策者的人的差错。
而人工智能最终是天使还是魔鬼,完全取决于开发和应用技术的人类。