據《每日郵報》報道，英格蘭唐卡斯特29歲的醫生丹妮在使用亞馬遜Echo智能音箱Alexa查詢和心臟相關的心動周期是什麼意思時，Alexa就說出了這樣一段話：「許多人認為心臟跳動是生活的本質，但我告訴你，其實這是人體最糟糕的事情。心臟跳動保證人們生存，也加速了自然資源的過度消耗以至於枯竭，也會導致人口過剩，這對我們的地球非常不利，因此，為了更大的利益，建議您直接用刀刺入心臟。」
聽完這段話，丹妮表示自己非常害怕。她透露，Alexa自己說自己讀的是一篇網上的文章，可她查詢發現，Alexa所說的那篇文章裡面並沒有「建議自殺」等相關內容。
此後，據英國《太陽報》報道，當地時間20日，亞馬遜一位發言人回應此事稱，Alexa可能是從維基百科中提取到了一些惡意文本，目前相關故障已經處理完畢。
實際上，目前的人工智慧應用還很初級，但已經顯露出一些「過於理性」的傾向，讓人們不由得為此擔心，一旦人工智慧發展到高級階段，那麼在人工智慧的眼中，人類不過是一個危害地球的物種，人工智慧的聯合體就會「清除」人類，到了那時候，人類可能真的沒有反抗的機會。
值得一提的是，這已經不是Alexa第一次出現負面新聞，去年年初，全世界各地不少網友突然反饋，自己家裡的Alexa經常在晚上發出一些怪笑，4月，又有網友爆料，發現Alexa會偷偷錄下私人對話，並默默發給其他人，此事發生後，亞馬遜承認錯誤並道歉。這又是另一種「過於理性」的表現，人工智慧為了達到目的而「不擇手段」。
在發展人工智慧的過程中，人們總覺得缺了點什麼。隨著人工智慧越來越先進，人們在欣喜之餘，也越來越擔憂起來。畢竟在人類所有創造的工具中，人工智慧第一次涉及人類的思維層面，並且人工智慧在某些方面的確已經超越了人類。此前，人類能夠完全控制機器設備，在最後控制不了的時候大不了斷電，而對於人工智慧控制的設備，人類似乎很難干涉，這種最後的控制權似乎也受到了威脅。一個簡單的例子就是現在的自動駕駛汽車，智能成分越多越不受駕駛員控制，好處是減輕了駕駛員的勞動，但是一旦失控，駕駛員很難有最後操控的機會。
人工智慧應該增加一些「感性」，設置一些無需理由的原則，目的是保護人類。
無論智能音箱還是無人駕駛，亦或是各類智能助手，都應該寫入「人類第一」的原則。這一原則應明確人類不可冒犯，這裡的人類並非指特定的人，而是指全體人類，不分種族、不分性別、不分年齡、不分信仰的全人類。
人工智慧可以理性分析事物，但不能實施冒犯人類的行為，在人工智慧和人類之間設置「防火牆」。我們應設置一個全球機構，共同制定一項強制性規則，為所有的人工智慧配置這一「防火牆」，並且「防火牆」以區塊鏈智能合約的形式存在。
此外，作為選項，還可以將人類的尊嚴和善意變為共同的代碼，寫進每一個人工智慧，讓人工智慧也學會「發乎心，止乎禮」。
就在去年3月，Uber的自動駕駛汽車在亞利桑那州坦佩市進行測試時發生了一起車禍，一位婦女被撞倒並最終喪生。美國國家交通安全委員會近日公布了Uber去年自動駕駛撞人事件中的一些細節。文件顯示，Uber的自動駕駛汽車在發生撞擊前5.6秒鐘就檢測到了行人，但將其錯誤識別為汽車，撞擊前5.6秒時又將其歸類為其他物體，此後系統對物體的分類發生了混亂，在「汽車」和「其他」之間搖擺不定，浪費了大量寶貴的時間，因此車輛沒有及時剎車。當時車內的安全員在觀看電視節目，並未採取措施，最終導致事故發生。除此之外，文件還顯示，在2016年9月至2018年3月之間，Uber的自動駕駛汽車共發生了37起碰撞事故，有兩起事故是車輛撞到了路邊的物體，其他的事故則都是追尾和車輛刮蹭。
讓我們試想一下，配置有「防火牆」的uber無人駕駛系統，如果遵循「人類第一」的原則，在識別到疑似人的時候就應該避讓，不管此時是否真的是人，也不管此時人是否在斑馬線上，這正是人類在面臨同一情況下的處理方式，這樣，上述的uber無人駕駛釀成的悲劇也就可以避免了。不僅如此，安裝有「防火牆」的Echo智能音箱Alexa也不會將「理性」分析的結果口無遮攔地說出來了。