微软公司要求员工审查色情和暴力照片,有员工声称因此患上出现创伤后压力症候群(PTSD),员工家属决定控告微软要求赔偿。
据BBC报导,两个得病的美国员工是亨利索托(Henry Soto)和格雷巴莱尔特(Greg Blauert),他们在微软网络安全组工作。
软体会事先辨析色情和暴力影像,然后再交给他们审查和汇报至美国有关政府部门。
他们审视的照片太恐怖且不人道,涉及严重血腥暴力、儿童色情和性侵犯,而且,他们已观看了数以千次。
他们因此患创伤症候群,看到电脑和刀便会刺激病情,也无法接触小孩。
报导指出,微软并未事先向他们提示“网路安全组”的工作性质,公司的辅导服务无法助他们了解病情。
微软回应,他们重视员工的健康,会为每个人提供强制的心理辅导以及限制员工的工作时数。公司也已利用程式减低该类图片的“真实程度”,图片会模糊处理、减低解析度和变成黑白,员工看到的是缩图而非原图。
科技公司提倡的人工智慧,目前演算法仍会误判图片,例如面子书把一张越战经典历史照片误当儿童色情照片,科技公司仍需要人手把关。