近日，某品牌兒童手錶搜索功能出現「不良答案」的消息登上熱搜。相關答案毀三觀的程度令人驚詫。事後，企業表示將整改並接受社會監督。
為什麼會出現這些毀三觀的答案？從技術的手段上分析，當然可以得出各種結論。但技術背後的原因更值得深思，那就是一些企業缺乏社會責任感，在研發產品時沒有從保護未成年人權益、呵護未成年人成長的角度去設計產品。所以，才會出現各種漏洞。試想，如果沒有家長及時發現內容並推動企業整改，還會有多少毀三觀的內容持續污染青少年的認知？
更需要指出的是，不僅是某一款兒童產品存在類似問題。近年來，隨著人工智慧技術、大數據等科技發展，幫助兒童生活、學習的電子產品、App軟體更加豐富。相伴而來的是，相關產品和軟體在內容輸出方面問題頻出，引發社會的廣泛關注和討論。這背後反映的是一些企業不斷追求應用最新的技術，卻忽略了技術應用可能帶來的風險。人工智慧確實強大，其內容生成能力遠超過人類，但人工智慧在價值判斷上存在紊亂的情況，它可能給人提供錯誤的信息，誤導、欺騙人類。這就需要人類把握好價值判斷的尺度。對於企業來說，在開發兒童產品時，認識到人工智慧的局限性，牢記自身的責任，是必須守住的最基本的底線。
《中國教育報》2024年08月29日第2版
作者：小野
文章來源: https://twgreatdaily.com/zh-hk/6f87b6e0c44e70260413edc9b1a028fd.html