經(jīng)濟(jì)觀察網(wǎng) 記者 胡泳

人工智能一代

雖然圍繞人工智能還有許多不確定因素，但我們知道，它會影響到我們生活的每一個(gè)部分，而且在許多情況下，對兒童和青少年的影響最大——從他們?nèi)绾纬錾烷L大，到他們可以獲得的服務(wù)，以及他們?nèi)绾螌W(xué)習(xí)，乃至他們將要接受訓(xùn)練的工作。

我們稱今天的兒童為“人工智能一代”，人工智能模型所作出的決定界定了他們在網(wǎng)上觀看的視頻、他們在學(xué)校的課程、他們的家庭獲得的社會援助……這一現(xiàn)實(shí)既帶來了巨大的機(jī)會，也可能生發(fā)嚴(yán)重的風(fēng)險(xiǎn)。如果沒有對兒童的特別關(guān)注，這項(xiàng)技術(shù)的發(fā)展有可能在不考慮兒童的具體需求和權(quán)利的情況下進(jìn)行，而兒童的健康發(fā)展對任何社會的未來福祉都是至關(guān)重要的。

人工智能可能加劇不平等，并維持偏見。例如，采用機(jī)器學(xué)習(xí)和人工智能技術(shù)對學(xué)生申請進(jìn)行分類的學(xué)校，可能會無意地但卻是系統(tǒng)地排除某些類型的候選人。在影響深遠(yuǎn)、有時(shí)是無形的監(jiān)視技術(shù)背景下，我們?nèi)绾伪Ｗo(hù)兒童不受歧視？

人工智能設(shè)備越來越能操縱用戶并使其上癮，而兒童尤其容易受到影響。對人工智能技術(shù)的過度依賴會讓孩子在社交和情感上變得殘缺。數(shù)據(jù)隱私泄露也是一個(gè)令人擔(dān)憂的問題，當(dāng)社交媒體通過數(shù)據(jù)采集和推送定向內(nèi)容與兒童對接時(shí)，當(dāng)智能玩具能夠聽到孩子說話時(shí)，孩子們的隱私該被如何對待？

兒童/青少年已經(jīng)占了人工智能系統(tǒng)用戶的很大一部分。如何/何時(shí)從他們那里收集數(shù)據(jù)？公司可以用這些數(shù)據(jù)做什么？如何為未成年用戶創(chuàng)建/過濾內(nèi)容？很明顯，我們需要人工智能的領(lǐng)導(dǎo)者、工程師、設(shè)計(jì)師、產(chǎn)品經(jīng)理和其他參與創(chuàng)建人工智能系統(tǒng)的人接受兒童權(quán)利的教育，以保障這些權(quán)利在系統(tǒng)的不斷加速發(fā)展中得到維護(hù)和考慮。

這樣的考量必須轉(zhuǎn)化為具體的措施，諸如：

如何根據(jù)“兒童友好”的全球標(biāo)準(zhǔn)以及用戶的偏好，建立內(nèi)容或平臺的評估/評級/排名系統(tǒng)？

如何讓年輕人根據(jù)自己的喜好選擇加入或退出人工智能功能（不論在移動(dòng)設(shè)備還是在網(wǎng)站上）？

怎樣公布有關(guān)公司、工具、平臺或個(gè)人內(nèi)容的表現(xiàn)信息，以激勵(lì)更多的對兒童友好的內(nèi)容？

在設(shè)計(jì)管理人工智能系統(tǒng)的全球標(biāo)準(zhǔn)及法律和政策時(shí)，可以如何讓兒童和年輕人參與其中？

怎樣保障兒童/青少年的數(shù)據(jù)安全，并教會他們學(xué)習(xí)個(gè)人管理？