笔迹鉴定师在仔细校验纸张上的字迹后,却无法确认笔迹的真伪。中国著名科幻作家陈楸帆的字迹被AI机械臂成功复制,达到了肉眼难以辨别的逼真程度。2017年10月24日,GeekPwn2017国际安全极客大赛在中国上海如期举行,中国金融认证中心(CFCA)团队携AI机械臂亮相,在不到十分钟的时间里,使用AI机械臂成功复制真人字迹,颠覆了大众传统认知中的“立字为据”。
由于个人书写习惯等因素影响,AI机械臂在学习过程中,需要学习和模仿字迹特有的笔触、线条宽度、书写习惯、字体倾斜程度等,才能成功复制人的书写笔迹。选手通过构建一个深度学习”DeepWriting”,就可以AI机械臂“开挂”般地在纸张上随意书写。
根据比赛规则,中国著名科幻作家陈楸帆提供笔迹学习样本,并供选手前期学习。在GeekPwn2017的现场,选手通过利用AI机械臂,成功模仿笔迹,写下一张真假难分的“欠条”,欠条内容如下:今欠极棒组委夸克币五亿个,日息陆厘。此款应一年内还清。逾期不还,按日收总额百分之八违约金——陈楸帆。
更为令人惊叹的是,该机械臂可以写出媲美人的手写字迹,同时模仿出几乎以假乱真的手写风格。连笔迹“原作者”陈楸帆也在现场表示:“我自己都不确定哪些字是我自己写的了。”
值得关注的是,笔迹在日常生活中广的使用,一旦不法分子可以成功将其仿造,将可能导致一系列的安全问题。试想一下,假设不法分子利用这样的机械臂假冒签名,就可能产生诸如盗刷银行卡、签署文件造假等潜藏威胁,这会造成受害者的财产损失,甚至是更为严重的后果。
除AI机械臂仿造人类笔记外,GeekPwn2017还首创了场景赛“AI仿声验声攻防赛”,以创新的赛制与形式,探索人工智能安全的可能性。同时,“蒙骗”人脸识别系统、“克隆“银行卡、iPhone8越狱、0元看电影等破解演示轮番上演,将不可能变成了可能。
作为最早关注人工智能(AI)的赛事平台,人工智能安全成为本届GeekPwn的精彩“爆点之一”。同时,GeekPwn还将于11月13日美国硅谷举办GeekPwn2017硅谷站,携手国际顶尖安全领域研究专家,持续探索人工智能安全的新突破与安全发展。