AIGC數據三大隐患，企業(yè)該如何規避風(fēng)險？

發布時(shí)間(jiān)：2023-08-27 來(lái)源：華然咨詢

随着人(rén)工(gōng)智能技(jì)術的(de)不斷演進， AIGC正日(rì)益成為(wèi)信息生(shēng)産的(de)主要方式之一。然而，與其嶄新的(de)産業(yè)前景相(xiàng)伴的(de)是AIGC合規問(wèn)題的(de)迫切性與嚴重性，這(zhè)是每一個(gè)從(cóng)業(yè)者都(dōu)應認真思考的(de)命題。

一、數據隐私洩露，第一隐患
在普通(tōng)用戶或個(gè)體(tǐ)中，隐私和(hé)信息安全意識尚未充分覺醒。但(dàn)對(duì)于涉及高(gāo)度保密性的(de)行業(yè)，例如金(jīn)融機(jī)構等，數據洩露的(de)風(fēng)險極高(gāo)。以ChatGPT為(wèi)例，用戶所輸入的(de)各類信息将經由美(měi)國(guó)服務器(qì)傳輸，再返回用戶端。然而這(zhè)個(gè)過程中，用戶數據已經不經意地(dì)跨境流出。

“确保用戶及相(xiàng)關方的(de)信息安全，遵循隐私保護法，不向模型輸入個(gè)人(rén)信息。訓練數據集需要經過合規清洗和(hé)數據處理(lǐ)，并留存相(xiàng)關記錄日(rì)志(zhì)。”

二、數據來(lái)源合法性，三方合作(zuò)要注意
在“酷米客訴車來(lái)不正當競争糾紛案”中，法院認為(wèi)，未經權利人(rén)許可，利用網絡爬蟲技(jì)術進入權利人(rén)的(de)服務器(qì)後台的(de)方式非法獲取并無償使用權利人(rén)的(de)實時(shí)公交信息數據的(de)行為(wèi)，實為(wèi)一種“不勞而獲”、“食人(rén)而肥”的(de)行為(wèi)，且具有(yǒu)非法占用他(tā)人(rén)無形财産權益，破壞他(tā)人(rén)市(shì)場(chǎng)競争優勢，構成不正當競争。

“合規需要前置審核開(kāi)源數據源和(hé)與第三方的(de)合作(zuò)協議(yì)，避免與第三方合作(zuò)權責不清導緻的(de)合規法律風(fēng)險；同時(shí)，要遵循三方協議(yì)約束，動态更新合規策略。”

三、數據質量不容忽視(shì)，嚴格把關。
暫行辦法對(duì)數據标識和(hé)數據質量都(dōu)提出了要求，如果訓練和(hé)微(wēi)調沒有(yǒu)做好(hǎo)質量把控，那(nà)麽輸出內(nèi)容亦無法保障。在部署和(hé)訓練過程，都(dōu)需要做好(hǎo)一套數據标注規則，對(duì)操作(zuò)者實施安全培訓。

随着法規的(de)逐步完善，企業(yè)在數據隐私、信息真實性和(hé)數據獲取途徑等方面都(dōu)将迎來(lái)更高(gāo)的(de)合規要求。下(xià)一篇，将重點講講，內(nèi)容合規。

華然咨詢于2022年(nián)組建AI技(jì)術服務團隊，為(wèi)企業(yè)客戶提供AI轉型整體(tǐ)解決方案。