Anthropic開始允許青少年和兒童在限制范圍內(nèi)使用其人工智能技術(shù)

　　多知5月13日消息，AI初創(chuàng)公司Anthropic正在改變其政策，允許未成年人在某些情況下使用其生成性AI系統(tǒng)。

　　Anthropic5月10日在官方博客上宣布，將開始允許青少年和兒童使用由其AI模型支持的第三方應(yīng)用程序(不一定是Anthropic自己的應(yīng)用程序)，只要這些應(yīng)用程序的開發(fā)人員實施特定的安全功能，并向用戶披露他們正在使用的Anthropic技術(shù)。

　　在另一篇相關(guān)文章中，Anthropic列出了開發(fā)針對未成年人的AI應(yīng)用程序的開發(fā)人員應(yīng)包括的幾個安全措施，如年齡驗證系統(tǒng)、內(nèi)容審核和過濾以及關(guān)于“安全和負(fù)責(zé)任”的未成年人AI使用的教育資源。該公司還表示，它可能會提供旨在為未成年人量身定制AI產(chǎn)品體驗的“技術(shù)措施”，如開發(fā)人員針對未成年人必須實施的“兒童安全系統(tǒng)提示”。

　　使用Anthropic AI模型的開發(fā)人員還必須遵守“適用的”兒童安全和數(shù)據(jù)隱私法規(guī)，例如保護(hù)13歲以下兒童在線隱私的美國聯(lián)邦法律《兒童在線隱私保護(hù)法》(COPPA)。Anthropic表示，它計劃“定期”審計應(yīng)用程序的合規(guī)性，暫?；蚪K止那些反復(fù)違反合規(guī)要求的賬戶，并要求開發(fā)人員在公共網(wǎng)站或文檔上“明確聲明”他們符合規(guī)定。

　　Anthropic在文章中寫道：“在某些用例中，AI工具可以為年輕用戶提供顯著的好處，例如考試準(zhǔn)備或輔導(dǎo)支持。考慮到這一點，我們的更新政策允許組織將我們的API整合到他們針對未成年人的產(chǎn)品中。”

　　隨著兒童和青少年越來越多地轉(zhuǎn)向生成性AI工具尋求幫助，不僅是學(xué)校作業(yè)，還有個人問題，Anthropic的政策變化也隨之而來。

　　Anthropic旗下有大語言模型Claude，目前已推出Claude 3系列，擅長推理、數(shù)學(xué)、編碼。該公司主要采用to B商業(yè)化的模式。

　　值得注意的是，Anthropic競爭對手生成式AI供應(yīng)商，包括谷歌和OpenAI，也在探索更多針對兒童的用例。今年，OpenAI成立了一個新團(tuán)隊研究兒童安全，并宣布與Common Sense Media合作制定兒童友好的AI指南。谷歌將其聊天機(jī)器人Bard(后來重新品牌為Gemini)在選定地區(qū)向說英語的青少年開放。

　　根據(jù)民主與技術(shù)中心的一項民意調(diào)查，29%的兒童報告曾使用過像OpenAI的ChatGPT這樣的生成性AI來處理焦慮或其他心理健康問題，22%用于處理與朋友的問題，16%用于處理家庭沖突。

　　去年夏天，學(xué)校和大學(xué)紛紛禁止使用生成式AI應(yīng)用程序，特別是ChatGPT。因為擔(dān)心抄襲和虛假信息。此后，一些學(xué)校已經(jīng)撤銷了禁令。但并非所有人都相信生成式AI的潛力，指向像英國安全互聯(lián)網(wǎng)中心的調(diào)查，發(fā)現(xiàn)超過一半的兒童(53%)報告說看到同齡人以負(fù)面方式使用生成性AI——例如創(chuàng)建可信的虛假信息或用于擾亂某人的圖像(包括色情深度偽造)。

　　可以說，當(dāng)前，對兒童使用生成式AI指南的需求日益增長。

　　聯(lián)合國教育、科學(xué)及文化組織(UNESCO)去年年底敦促各國政府規(guī)范教育中生成性AI的使用，包括實施用戶年齡限制和數(shù)據(jù)保護(hù)及用戶隱私的護(hù)欄。UNESCO總干事奧德蕾·阿祖萊在新聞發(fā)布會上說：“生成式AI可以是人類發(fā)展的一個巨大機(jī)會，但它也可能造成傷害和偏見。如果沒有公眾參與和政府必要的保障和法規(guī)，它就無法融入教育。”