科技的發展不應忽視人文關懷。9月5日，在2024 Inclusion·外灘大會的開幕式上，24歲的獨臂男孩周鍵借智能仿生手演奏鋼琴，在舞臺上定格了溫暖的一幕。隨后，復旦大學計算機科學技術學院教授、上海市數據科學重點實驗室主任肖仰華，與浙江強腦科技創始人兼CEO韓璧丞就人機共生的未來展開對談。

他們認為，AI等技術的大規模應用將重塑人的內涵，進而重塑我們的社會關系。面對AI倫理等一系列風險挑戰，應提前建立AI應用準則， 以人為本作為首要出發點。

在肖仰華看來，隨著腦機接口與AI技術的廣泛應用，機器已經成為人類的外腦、人類的四肢，人已經不再是傳統生物意義上的人。他表示，智能時代，人將變成哲學家尼采筆下的“超人”，即自我超越的人。只不過這種自我超越，將是在機器智能等外力工具協助下而完成的。人將成為機器智能增強下的超人，或許這將會是在長期使用先進技術后，對人類社會的生產和生活帶來的終極影響。”

“與之伴隨的是，人與人之間的社會關系也將隨之發生變化，AI將成為人類從事各種生產和活動的代理。人與機器之間的關系、機器與機器之間的關系，將不可避免的納入到我們對社會關系考察范圍，” 肖仰華說。

作為腦機接口技術應用的推動者，韓璧丞認為，腦機接口在未來5-10年內，會發生三個階段的變化，分別是：修復、增強和更高階的交互。修復是幫助最需要的人如有腦疾病、肢體殘疾的人恢復正常生活。其次是增強，比如是不是可以借助腦機接口技術，根據老人的意識為其提供機能補充，讓每個老人多走5-10年的路。下一代的交互則會變得更高階，比如對話，現在是通過語言，未來可能不需要再通過語言對話，收到提問我們想一想就傳遞出去了。

在他們看來，新技術將帶來更多新可能，但潛在的科技倫理問題也同樣值得關注。

“AI大規模應用對人類生活有4大突出挑戰，”肖仰華表示，首要挑戰在于，我們的生產關系等社會發展上層建筑，如何適應以人工智能為代表的先進生產力的快速發展。“生成式人工智能技術發展，已經需要以月為單位進行記錄。但是人類的情感、價值、倫理觀念調整是十分緩慢的。如何調和這個矛盾，是我們需要直面的挑戰之一。”

肖仰華認為，其次是技術普惠問題。要避免少部分人借助先進技術形成不正當的競爭優勢。此外，我們還應該特別注意防范技術成癮，防止先進技術對人類造成反噬。

人工智能可以“造人”，甚至可以“造超人”。韓璧丞認為，在助力肢體、視力障礙等人群上，AI技術已經發揮出越來越大的作用，幫助視障者重新“看見”，幫助肢體殘疾的人重新恢復行動能力。但技術也可以使人獲得一些超出常人的能力，如何平衡這些風險值得思考。

面向未來，他們認為，AI應用的首要原則應該是以人為本，回歸科技服務于人的本質，凡是傷害人之本性的要格外謹慎。

在肖仰華看來，AI的大規模濫用是可能損害人之為人的本性的。要有所為有所不為，但凡傷害人之為人之本性的AI應用，我們要謹慎，要加以限制。為此，“我們要重視技術治理，并將治理提前考慮，做到未雨綢繆。”

韓璧丞表示，AI倫理委員會的存在非常重要。技術前進的時候，更應該關注“走的慢”的人。“當一個足以改變世界的技術出現時，我們先用它來幫助最需要的人”。

科技和人文的結合，是外灘大會不變的底色，如何發揮科技的力量，讓每一個人的生活變得更好，是外灘大會持續的關注點。9月3日，2024 inclusion·外灘大會發布科技人文十大熱點問題，涵蓋科技普惠、綠色發展、生命科學、技術倫理等專業領域，與會嘉賓將共同探討科技人文十問的前沿新觀點和新思路。

2024 Inclusion·外灘大會于9月5日-7日召開，由外灘大會組委會主辦，上海市地方金融管理局和上海市黃浦區人民政府支持。近期，長期關注全球科技趨勢的權威媒體《亞洲科技日報》，評出了四大“2024下半年最值得期待的全球創新科技大會”，外灘大會入選。