為什么張學友演唱會屢屢有逃犯被捕？個性化推薦究竟準不準？公民是否有不被攝像頭監控的權利？

2019年12月7日，華東政法大學在上海主辦“華東政法大學互聯網法治研究院成立大會暨第二屆中國數據法律高峰論壇”，與會專家們分享了人工智能的前沿成果，同時也對大數據時代存在倫理和隱私問題進行探討。

上海市法學會黨組書記、會長、二級大法官崔亞東分享了人工智能在司法領域的運用成果——上海刑事案件智能輔助辦案系統。這個系統可以通過讓機器收集、識別、理解、分析海量證據，實現人機協同，防止辦案“起點錯、跟著錯、錯到底”。

AI輔助庭審，可以讓證據“說話”。據崔亞東介紹，審判人員借助系統發現刑事案件被告人前后口供存在矛盾，并基此重新向被告人提問。在某刑事案件中，被告人自述案發前兩年沒有聯系被害人，但系統找出了兩人近期的13次通話記錄，當場推翻了被告人的口供。

崔亞東稱，以前警察抓捕逃犯需要在特定時機“蹲坑守候”，現在有了人臉識別，公安更容易抓捕到逃犯。比如利用大數據，警方近期成功鎖定了潛逃20多年的犯罪嫌疑人勞榮枝。而歌手張學友的“捕神”稱號，也得益于公安部門多次在他的演唱會上抓到逃犯。

人工智能和大數據能促進司法公正、社會安定，但其背后隱患也不容忽視。

數文明科技公司CEO涂子沛在演講中提到，目前人工智能的主流應用，包括人臉識別、語言合成、個性化推送等，這些都是以數據作為基礎。在使用網絡服務的同時，每個人都在免費貢獻數據。而互聯網公司利用這些數據發展技術的同時，有可能傷害普通人的利益。

典型的案例包括，平臺借助算法對不同消費者進行差別化定價。此外借助攝像頭，有書店通過人臉識別來給顧客推薦圖書，也有學校用來監控學生行為。“但有人愿意被監控嗎？”涂子沛提出了疑問。

技術廣泛應用的同時，如何保障公民的隱私權，明確人工智能倫理邊界值得關注。崔亞東認為，技術領跑，規則也要跟上。在人工智能立法時應注重協調倫理發展，通過規則設定促進算法的公正、透明、安全，避免算法歧視，同時建議加快人工智能領域的頂層規劃設計，建立國際領先的標準體系。

上海市司法局副局長羅培新表示，面臨人工智能的帶來倫理與價值的沖突，保護公眾安全是首位，“安全沒有保證，寧可慢一點。”此外，他認為還需賦予公眾合理的選擇權，人們在體驗技術帶來的便利時，也應有拒絕技術不被監控的權利。

采寫：南都見習記者黃莉玲 南都記者李玲 發自上海

編輯：蔣琳