近日,加拿大一项秘密进行的项目被媒体曝光——早在四年前,加拿大边境局(CBSA)便已开始通过“人工智能(AI)辅助程序”筛查入境人员。
据媒体最新获得的数据显示,四年间,共有13,863名旅客被“标记”,其中,有6,182名旅客被“拒绝登机”,其签证也随之被“暂停”甚至“取消”。
值得注意的是,相关行动均发生在旅客“登机之前”,而非“到达之后”。
量子计划
该计划被称为“量子计划”(Project Quantum)。相比移民官及海关官员在旅客到达之后再对其采取的“人脸识别、证件核对、文件审查”等程序,“量子计划”在“筛选入境旅客”方面更加高效。
通过分析大量数据和信息,AI要比人类(移民官)更能识别可能构成威胁或违反移民规定的个体,帮助(移民官)快速作出决定,确保国家边境安全。
具体案例
由于“量子计划”牵涉到许多个人隐私,加拿大边境局没有公开具体案例,但为更好的说明个中情况,媒体从消息人士处拿到了相关信息:
近日,持有有效加拿大签证,准备从英国伦敦飞往加拿大探望家人的两名乘客,在搭载Air Transat航班前被拒绝登机。而理由是——系统中两人均被标注为:“Based on quantum referral”(基于量子参考)。
据悉,该两名乘客属于欧洲“罗姆人”(吉普赛人),两人在加拿大的家人曾是难民身份。
AI程序分析后报告称,他们家人的移民历史及其族群背景会令他们在抵达加拿大之后提出难民庇护申请的风险较高……于是,签证官更新了系统文件,“标记”了他们,旨在“拒其于国门之外以排除潜在威胁”。
范围扩大
目前,加拿大正在逐渐扩大该AI程序应用的航班范围,从2019年的18个增加到2022年的32个。
当问及“具体航班”以及“具体衡量标准”等细节时,当局坚持“不予公开”,但强调,AI系统并不会直接拒绝申请或建议拒绝,最终的决定仍然由签证官做出。
据报道,“量子计划”的研发与应用得益于加拿大创新、科学与工业部的$5100万加元资助。
相关手法目前已被加拿大签证系统及加拿大武装部队引入并开始实施,但相关部门均拒绝透露相关细节。
相关争议
然而像许多新的高科技应用一样,“量子项目”一经曝光便引发争议。
有人担心,过度依赖人工智能可能会导致歧视或错误地拒绝合法的旅客入境……因此,“需要建立更多的监督和审查机制,以确保AI在边境控制中的使用公正合法”。
发表回复