為什么張學(xué)友演唱會(huì)屢屢有逃犯被捕？個(gè)性化推薦究竟準(zhǔn)不準(zhǔn)？公民是否有不被攝像頭監(jiān)控的權(quán)利？

2019年12月7日，華東政法大學(xué)在上海主辦“華東政法大學(xué)互聯(lián)網(wǎng)法治研究院成立大會(huì)暨第二屆中國數(shù)據(jù)法律高峰論壇”，與會(huì)專家們分享了人工智能的前沿成果，同時(shí)也對大數(shù)據(jù)時(shí)代存在倫理和隱私問題進(jìn)行探討。

上海市法學(xué)會(huì)黨組書記、會(huì)長、二級大法官崔亞東分享了人工智能在司法領(lǐng)域的運(yùn)用成果——上海刑事案件智能輔助辦案系統(tǒng)。這個(gè)系統(tǒng)可以通過讓機(jī)器收集、識別、理解、分析海量證據(jù)，實(shí)現(xiàn)人機(jī)協(xié)同，防止辦案“起點(diǎn)錯(cuò)、跟著錯(cuò)、錯(cuò)到底”。

AI輔助庭審，可以讓證據(jù)“說話”。據(jù)崔亞東介紹，審判人員借助系統(tǒng)發(fā)現(xiàn)刑事案件被告人前后口供存在矛盾，并基此重新向被告人提問。在某刑事案件中，被告人自述案發(fā)前兩年沒有聯(lián)系被害人，但系統(tǒng)找出了兩人近期的13次通話記錄，當(dāng)場推翻了被告人的口供。

崔亞東稱，以前警察抓捕逃犯需要在特定時(shí)機(jī)“蹲坑守候”，現(xiàn)在有了人臉識別，公安更容易抓捕到逃犯。比如利用大數(shù)據(jù)，警方近期成功鎖定了潛逃20多年的犯罪嫌疑人勞榮枝。而歌手張學(xué)友的“捕神”稱號，也得益于公安部門多次在他的演唱會(huì)上抓到逃犯。

人工智能和大數(shù)據(jù)能促進(jìn)司法公正、社會(huì)安定，但其背后隱患也不容忽視。

數(shù)文明科技公司CEO涂子沛在演講中提到，目前人工智能的主流應(yīng)用，包括人臉識別、語言合成、個(gè)性化推送等，這些都是以數(shù)據(jù)作為基礎(chǔ)。在使用網(wǎng)絡(luò)服務(wù)的同時(shí)，每個(gè)人都在免費(fèi)貢獻(xiàn)數(shù)據(jù)。而互聯(lián)網(wǎng)公司利用這些數(shù)據(jù)發(fā)展技術(shù)的同時(shí)，有可能傷害普通人的利益。

典型的案例包括，平臺借助算法對不同消費(fèi)者進(jìn)行差別化定價(jià)。此外借助攝像頭，有書店通過人臉識別來給顧客推薦圖書，也有學(xué)校用來監(jiān)控學(xué)生行為。“但有人愿意被監(jiān)控嗎？”涂子沛提出了疑問。

技術(shù)廣泛應(yīng)用的同時(shí)，如何保障公民的隱私權(quán)，明確人工智能倫理邊界值得關(guān)注。崔亞東認(rèn)為，技術(shù)領(lǐng)跑，規(guī)則也要跟上。在人工智能立法時(shí)應(yīng)注重協(xié)調(diào)倫理發(fā)展，通過規(guī)則設(shè)定促進(jìn)算法的公正、透明、安全，避免算法歧視，同時(shí)建議加快人工智能領(lǐng)域的頂層規(guī)劃設(shè)計(jì)，建立國際領(lǐng)先的標(biāo)準(zhǔn)體系。

上海市司法局副局長羅培新表示，面臨人工智能的帶來倫理與價(jià)值的沖突，保護(hù)公眾安全是首位，“安全沒有保證，寧可慢一點(diǎn)。”此外，他認(rèn)為還需賦予公眾合理的選擇權(quán)，人們在體驗(yàn)技術(shù)帶來的便利時(shí)，也應(yīng)有拒絕技術(shù)不被監(jiān)控的權(quán)利。

采寫：南都見習(xí)記者黃莉玲 南都記者李玲 發(fā)自上海

編輯：蔣琳