來(lái)源標(biāo)題：深圳“AI員工”上崗引熱議：助力還是代替?
不到十秒，就能根據(jù)執(zhí)法筆錄生成一份執(zhí)法文書;以往需要一上午才能寫完的裁決書，現(xiàn)在幾分鐘就能理出框架;給一篇公文修正格式，準(zhǔn)確率超過95%……
能做到這些的，是來(lái)自深圳福田的“AI數(shù)智員工”。
2月中旬，深圳市福田區(qū)推出基于Deep Seek(人工智能模型)開發(fā)的“AI數(shù)智員工”，首批70名“員工”上崗后，被網(wǎng)友們稱為“AI公務(wù)員”。與此同時(shí)，“‘AI員工’如何開展工作”“鐵飯碗不保”“‘AI員工’如何管理”等一系列話題引發(fā)社會(huì)討論。
2月18日，福田區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局就此回應(yīng)新京報(bào)記者稱，“AI數(shù)智員工”只是助手，配有監(jiān)護(hù)人，它們?cè)诒O(jiān)護(hù)人的監(jiān)督和指導(dǎo)下開展工作，無(wú)法單獨(dú)決策。
記者注意到，AI技術(shù)入場(chǎng)政務(wù)服務(wù)領(lǐng)域的同時(shí)，有關(guān)AI決策偏差、數(shù)據(jù)安全及隱私保護(hù)的話題也成為公眾關(guān)注的焦點(diǎn)。對(duì)此，新京報(bào)記者19日聯(lián)系了對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授、數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣進(jìn)行解讀。新京報(bào)記者 熊麗欣
70名“AI員工”入駐35家政務(wù)單位
記者了解到，福田區(qū)從去年就開始梳理人工智能技術(shù)和業(yè)務(wù)相結(jié)合的應(yīng)用場(chǎng)景，處理過程中，生成了數(shù)智智能體AI賬號(hào)70個(gè)，它們可以承擔(dān)多種角色，這也是首批70名“AI數(shù)智員工”上崗的由來(lái)。此前，當(dāng)?shù)匾恢辈捎闷渌麌?guó)產(chǎn)模型，今年開始切換到爆火的DeepSeek。
福田區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局相關(guān)工作人員介紹，這70名“AI數(shù)智員工”除了擁有DeepSeek的通用功能外，還結(jié)合各部門單位實(shí)際業(yè)務(wù)流程，量身定制了個(gè)性化智能體。具體來(lái)說，每名“AI數(shù)智員工”對(duì)應(yīng)一個(gè)賬號(hào)，它們分布在全區(qū)35家政務(wù)單位，覆蓋240個(gè)政務(wù)工作場(chǎng)景，涵蓋公文處理、民生服務(wù)、應(yīng)急管理、招商引資等領(lǐng)域。
這些“員工”究竟如何開展工作?舉個(gè)例子，當(dāng)工作人員打開“行政處罰決定書”功能，在系統(tǒng)對(duì)話中上傳一份“案件單位負(fù)責(zé)人集體討論筆錄”后，不到十秒，“AI數(shù)智員工”就可以生成一份行政處罰決定書。
“勞動(dòng)仲裁裁決書”模塊，則是為福田區(qū)勞動(dòng)人事爭(zhēng)議仲裁院量身定制的。該院院長(zhǎng)牛利娟在接受媒體采訪時(shí)介紹，當(dāng)?shù)貏趧?dòng)仲裁案件逐年遞增，2024年有將近6000件，人均年辦案量達(dá)到310件左右，存在“案多人少”的矛盾。仲裁員胡珈華也提到，以往書寫一份裁決書可能需要一上午時(shí)間，自從配備了“AI數(shù)智員工”，幾分鐘就可以完成一份裁決書的框架，“這樣的話，我們的仲裁員就可以更專注地去處理核心矛盾。”
“AI數(shù)智員工”有多強(qiáng)?福田區(qū)委宣傳部發(fā)布的一組數(shù)據(jù)顯示，引入“AI數(shù)智員工”后，民生訴求分撥準(zhǔn)確率從70%提升至95%，公文格式修正準(zhǔn)確率超95%，審核時(shí)間縮短90%，錯(cuò)誤率控制在5%以內(nèi)。“AI招商助手”企業(yè)分析篩選效率提升30%，“AI任務(wù)督辦助手”跨部門任務(wù)分派效率提升80%，按時(shí)完成率提升25%。
多地政務(wù)部門上線AI服務(wù)
“AI數(shù)智員工”一經(jīng)推出，便被網(wǎng)友們戲稱為“AI公務(wù)員”。然而，這一稱呼的出現(xiàn)，也引發(fā)了公眾對(duì)“‘AI員工’是否會(huì)取代人類工作崗位”的擔(dān)憂。
2月18日，福田區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局相關(guān)負(fù)責(zé)人就此回應(yīng)新京報(bào)記者稱，“AI數(shù)智員工”只是公務(wù)員助手，在工作中是輔助角色，而且配有監(jiān)護(hù)人。推出這類“員工”的目的是輔助開展管理和服務(wù)，通過人機(jī)協(xié)同提高效率，為基層減負(fù)。“以勞動(dòng)仲裁裁決書為例，‘AI數(shù)智員工’只是根據(jù)復(fù)雜的材料形成初稿，最終還是需要人工來(lái)審核修改。”
記者也注意到，福田區(qū)在推出“AI數(shù)智員工”的同時(shí)，也在國(guó)內(nèi)率先發(fā)布《深圳市福田區(qū)政務(wù)輔助智能機(jī)器人管理暫行辦法》，明確了“AI數(shù)智員工”的輔助定位，構(gòu)建了一套完整的倫理框架、技術(shù)標(biāo)準(zhǔn)、應(yīng)用范圍和安全監(jiān)管體系。
除了福田區(qū)，AI也正逐步“入場(chǎng)”深圳其他區(qū)域。2月13日，深圳開展全市AI操作培訓(xùn)，2月16日又基于政務(wù)云環(huán)境面向各區(qū)各部門正式提供DeepSeek模型應(yīng)用服務(wù)。
除深圳外，多地政務(wù)系統(tǒng)也紛紛接入DeepSeek。
據(jù)“中國(guó)廣州發(fā)布”2月16日消息，廣州市政務(wù)服務(wù)和數(shù)據(jù)管理局部署上線DeepSeek-R1、V3671B大模型，推動(dòng)其在民生政策解讀、12345熱線工單分派等政務(wù)領(lǐng)域應(yīng)用。呼和浩特、贛州、無(wú)錫也陸續(xù)在今年2月份完成了政務(wù)環(huán)境Deep?Seek系列大模型部署。山東臨沂基于政務(wù)云實(shí)現(xiàn)了DeepSeek本地化部署，為“沂蒙慧眼”(企業(yè)精準(zhǔn)畫像)系統(tǒng)新增了慧眼AI會(huì)話等功能。
專家：特殊場(chǎng)景中應(yīng)慎用AI決策
隨著AI技術(shù)進(jìn)入政務(wù)服務(wù)領(lǐng)域，AI決策偏差、數(shù)據(jù)安全以及隱私保護(hù)等問題也逐漸成為公眾關(guān)注的熱點(diǎn)。
對(duì)此，對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授、數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣表示，AI技術(shù)進(jìn)入各行各業(yè)已成趨勢(shì)，尤其是在政務(wù)服務(wù)領(lǐng)域，AI技術(shù)的應(yīng)用前景廣闊。以深圳市福田區(qū)為例，“AI數(shù)智員工”的上崗不僅提高了政務(wù)處理效率，也能為公眾提供更便捷的服務(wù)。
不過，張欣也提示，在政務(wù)服務(wù)領(lǐng)域，AI的應(yīng)用具有特殊性。“政務(wù)領(lǐng)域往往涉及公共利益和重大決策，AI的決策誤差可能對(duì)公眾產(chǎn)生深遠(yuǎn)影響。”張欣表示，目前大量研究和實(shí)例表明AI輸出的內(nèi)容存在誤差問題。
“AI決策有其擅長(zhǎng)的領(lǐng)域，但在涉及倫理道德和價(jià)值判斷的政務(wù)場(chǎng)景，應(yīng)謹(jǐn)慎使用AI決策。比如，一些弱勢(shì)群體可能不符合低保發(fā)放的標(biāo)準(zhǔn)，但對(duì)方確實(shí)存在特殊情況，如果僅靠AI來(lái)作判斷是不夠的。”張欣建議，政府在推廣AI應(yīng)用時(shí)，應(yīng)完善相關(guān)配套機(jī)制，確保AI決策的透明度和可靠性。同時(shí)，需要建立有效的反饋和救濟(jì)機(jī)制，以便在AI決策出現(xiàn)問題時(shí)，公眾能夠快速反饋并獲得及時(shí)處理。在養(yǎng)老金發(fā)放、稅收優(yōu)惠等關(guān)鍵領(lǐng)域，相關(guān)的AI決策仍需經(jīng)過人工復(fù)核，以確保公平性和準(zhǔn)確性。
AI或?qū)⒋偈箘趧?dòng)者轉(zhuǎn)型
此外，對(duì)于公眾關(guān)注的數(shù)據(jù)安全及隱私保護(hù)問題，張欣表示，當(dāng)下DeepSeek采取完全開源的模式，這意味著相關(guān)行業(yè)在接入使用時(shí)幾乎沒有任何技術(shù)成本，但這也可能會(huì)帶來(lái)一些數(shù)據(jù)安全問題。“AI模型在訓(xùn)練過程中會(huì)處理大量數(shù)據(jù)，即使經(jīng)過匿名化處理，有些敏感信息仍可能被攻擊者提取。目前所有AI大模型都無(wú)法做到100%避免安全漏洞。但就目前來(lái)看，當(dāng)下AI數(shù)據(jù)安全和隱私保護(hù)問題是在可控范圍內(nèi)的。”
張欣建議，各行業(yè)在接入AI技術(shù)時(shí)，可從技術(shù)、法律規(guī)范及AI部署方式這三個(gè)方面采取措施，以確保數(shù)據(jù)的合規(guī)使用與隱私安全保護(hù)。
張欣指出，目前業(yè)內(nèi)存在許多成熟且可靠的數(shù)據(jù)安全與隱私保護(hù)技術(shù)，國(guó)家也已出臺(tái)多項(xiàng)法律法規(guī)，如《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》以及《個(gè)人信息保護(hù)法》，為數(shù)據(jù)的收集、存儲(chǔ)、使用和共享提供了明確的規(guī)范，網(wǎng)信辦最近發(fā)布的《個(gè)人信息保護(hù)合規(guī)審計(jì)管理辦法》也為數(shù)據(jù)處理活動(dòng)提出了更為細(xì)致的合規(guī)要求。
在政務(wù)、醫(yī)療健康、金融交易以及涉及商業(yè)機(jī)密等數(shù)據(jù)敏感性和保密性要求極高的特定場(chǎng)景中，大模型的本地化部署相較于云端部署具有顯著優(yōu)勢(shì)，可以有效規(guī)避數(shù)據(jù)在云端傳輸和存儲(chǔ)過程中可能面臨的泄露風(fēng)險(xiǎn)。
對(duì)于“‘AI員工’會(huì)否影響勞動(dòng)市場(chǎng)”這一話題，張欣認(rèn)為，“AI技術(shù)雖然會(huì)在一定程度上替代人力，但這種替代絕非線性關(guān)系。”她解釋，隨著AI技術(shù)被引入政務(wù)服務(wù)領(lǐng)域，公務(wù)員的工作內(nèi)容可能會(huì)發(fā)生變化，比如，AI可能會(huì)做一些重復(fù)性、標(biāo)準(zhǔn)化的工作，如數(shù)據(jù)錄入、文件審核等，促使公務(wù)員向高技能、高創(chuàng)造力的方向轉(zhuǎn)型，如參與政策設(shè)計(jì)、公眾溝通和危機(jī)管理等問題的解決。
張欣建議，勞動(dòng)者應(yīng)提升自身的核心競(jìng)爭(zhēng)力，以適應(yīng)AI時(shí)代的需求。同時(shí)，政府和企業(yè)也應(yīng)提供相應(yīng)的制度支持和技能培訓(xùn)，幫助勞動(dòng)者順利轉(zhuǎn)型。
“在未來(lái)的發(fā)展中，AI技術(shù)的潛力巨大，但也需要我們?cè)诩夹g(shù)進(jìn)步與社會(huì)利益之間找到平衡。只有這樣，AI才能真正成為推動(dòng)社會(huì)發(fā)展的強(qiáng)大動(dòng)力。”張欣說。
