AI 正以前所未有的速度发展人类真的准备好了吗?它是人类史上最大的改革它是著名的历史学家、哲学家、人类简史系列作者尤瓦尔·赫拉利他的著作《人类简史》、《未来简史》和《今日简史》以及最新出版的《智人之上》被翻译成超过 65 种语言它只是时间的一分钟,AI 比我们更好
也因此他被称为当今世界最具影响力的公共知识分子之一而他是坚定的技术乐观派
做看潮起潮落的连续创业者更是中国大模型的一线实践者王小川他于 2023 年 4 月创立的大模型公司百川智能两年来先后发布 12 款大模型今天机器掌握语言之后同时掌握了思考
沟通知识和文化小川坚信 AGI 将会为人类社会和生活带来更大的福祉我们认为今天在现在只要不富于人生命的时候它都是相对可控的这是由它的这样的一个算法体制所决定的两位顶尖的思考者身处不同立场将会产生哪些精彩的碰撞教授的这个观点我们一半
中文讲紫飞云 胭脂雨之乐伴随 AI 演进的人类文明可能面临哪些挑战欢迎来到赛果对话很高兴认识到博士哈罗里你可以叫我 Jane 谢谢
我们的另一位嘉宾小川今天来到我们的讨论中他是一个非常有创意力的实际创意力的人而且也是我们中国 AI 中的企业人的伟大代表所以欢迎小川我非常感谢教授我也是被他激发的人之一你最新的书《Nexus》完成了六年而在这六年里有一个
在 AI 技术中有破裂,整个世界都变了。如果您用一句话来描述您的感受,那会是什么?
我非常驚訝在這六、七年來,我非常驚訝在這六、七年來,我非常驚訝在這六、七年來,我知道很多人急於作出判斷我知道很多人急於作出判斷有些事情發生,他們想判斷是否好,還是壞有些事情發生,他們想判斷是否好,還是壞我覺得我們應該抵抗這個要求首先,我們必須明白因為不管是好還是壞
可能在人類歷史上是最大的革命因為人類是第一次創造了一種東西不只是工具 也就是一種機器例如鎚子 飛機 甚至是雷射彈
這些都是我們手上的工具現在我們創造了一個代理代理是一個可以決定的東西可以自行創造新的想法所以你也知道,一把刀不能決定要怎麼做你可以用刀切沙拉或是用刀打死別人你決定,不是刀 AI 是第一種創造能夠自行決定的東西
所以在這方面,這完全不同於我們之前所遇到的任何事情。首先,我們來開始說說現在發生的事情。在這六年間,你最受到最大的印象是甚麼?當然是大型語言模式的快速出現。
因為我寫《Homo Deus》在 2016 年的時候人們已經知道 AI 的存在而有不同的預測但幾乎沒有人包括我自己期待到語言的分別語言是人類的定義
人類世界的整體是根據語言而建立的很多人都說 AI 永遠不會能夠擅長語言
我現在在 AI 寫的詩詞中感到驚訝他們的表現是多麼好的我從來沒有看過人類詩詩的新方法是美麗和創造性的當 AI 學會了語言後它真的獲得了
到所有我們的社會從銀行到寺廟到政府辦公室入門的重要性就是語言而 AI 革命是幾乎十年了語言已經成為了如此程度的習慣我覺得在十年內再十年 AI 將能夠寫書像是 NexusAI 將能夠創造新的錢
新的宗教 ideologies 所有人都用語言
所以教授們,您是否使用 AI 在寫作?目前,只用了一點點,我使用它來翻譯,有時候用它來問問題,但我仍然不夠信任它,因為我不明白它如何達到它的結論,它所找到的地方,它的源頭。
當然,它會犯錯、犯錯,它只能用訓練的資料來解決問題所以當我遇到重要的問題時,我仍然相信古老式式的讀書和與其他人類的專業人士聊天,不再只要問 chatGPT 或 DeepSeq 給我答案你認為你會使用 AI 的想像力嗎?
我覺得這是適合所有人的想法因為人類的想法很限制我在 2016 年發佈了《Homo Deus》就是在 AlphaGo 和 Lise Do 的名牌遊戲中發行的時期很多人都視它為 AI 革命的轉變點而這個遊戲的厲害之處是
不是 AI 贏了人類的冠軍這也發生過在深藏的 Casparov 上這是 AlphaGo 贏的方式因為它玩了動作 它創造了完全不知情的方法超過人類想像十萬億人在東亞 中國 韓國 日本玩了 Go 超過 2000 年
整個哲學是如何玩 GO 的發展它被視為一種生活鏡頭你用來玩 GO 的哲學就像你用來管理你的生活而人們認為在過去的 2000 年我們已經探索了所有不同的玩 GO 的方法然後 AlphaGo 出現了幾小時或幾天後它不僅變得比任何人都更好
它發現了完全新的方法去玩 GO 那些沒有任何人玩過的 2000 年所以我經常想像 GO 的地圖像是一個星球人類在 GO 的這個星球上困在一起 2000 年以為這是整個星球但我們不知道其他東西然後 AlphaGo 出現了而且在沒有時間內
在這個"Go"的星球中發現了整個新的星球
這是想法 它超越我們的想法因為我們的想法是有機的它是有機的脳製造物質 它是限制的可能是有機的生物化學而 AI 不是有機的 它並不限制它是非常先進的 AI 阿爾法哥是第一代的 AI 非常先進的 但它還是超越人類想法
我期望同樣的事情會發生在比玩遊戲更加嚴重的領域上我認識的最新的諾貝爾獎在物理和化學方面是為了 AI 的發展所以在化學方面像是在蛋白組合中 AI 已經表現出了比人工科學家的創意
可能在十年後所有的奧運獎會通常會被人家的智慧迴響人們無法再次...你知道,在科學上要創造新的理論要創造新的假設方式新的實驗又或者我們在這個科學島上堵塞了人類人類會創造全新的科學理論、模式和實驗
同樣可能會發生在金融方面當然它有暗面的一面同樣可能會發生在武器上同樣 AI 可以創造新的方法去操控和操控但我絕對認為我們正在進入一個想像外的世界
我聽說你提出了很多期望但我仍然很不滿你剛才提到幾年後 AI 可以寫一本像 Nexus 的書所以你害怕 AI 嗎?是的我兩人都希望它會在醫療中有破壞在多項方面的處理上也會有破壞而我非常害怕它也會對我們有反應
我們會失去我們的未來的控制
如果我們不正確地處理這件事我們可能會被奪走或是被殺死我認為這是一個新的宇宙物類所以至少在英文上我比較喜歡用 AI 的名字為宇宙智能宇宙不是從外空來的
Aliens in the sense that this is an entirely different kind of intelligence than human or organic intelligence.And again, it doesn't mean that it's evil, but we need to learn how to coexist with it.
我看到你曾經與 Zack Berg 談過,他是 Facebook 的 CEO。你認為他對科技帶來的影響有什麼影響嗎?是的,我和他談過的事,他更明白了我聽到的事情。他更明白了大眾人的大量力量。
他所創造的工程他擔心要做什麼,而且不僅是他而是其他人,包括新的科技巨星他們也擔心,但他們不知道如何處理當我旅行世界,與美國、東東東北、歐洲的人聊天
我和幾乎所有人都很關心我通常會問他們兩個問題第一問我問的是如果你這麼關心你為什麼動作這麼快?為什麼不慢下來,多投入安全?做事要小心一點幾乎所有人都回應同樣的
They say we know there are huge risksWe would like to slow downBut we can'tBecause we can't trust our human competitorsIf we slow downBut our competitors in the other companiesin the other countries don't slow down
他們會贏 AI 的選擇他們會擋住世界然後世界被最不公平的人擋住了因為我們不可以相信他們我們必須走快一點當然你和他們的競爭者談話他們的競爭者都會說同樣的東西現在我問他們另一個問題好的 你們的競爭者不可以相信你們
Do you think you will be able to trust the super intelligent AIs that you are developing?And the same people who just told me that they can't trust the other humans now assure me that they think they will be able to trust the AIs, which is almost insane.
因為雖然人類與我們有問題但我們與人類有千年經驗相反我們沒有 AI 的經驗我們知道甚至有機智能騙、操縱、想辦法我們無法預測的目標和策略
小川 是真的嗎
对刚才教授讲的话对很多理念是非常一致的那么刚才提到这个里面好多概念是放在一块讲的了比如说算法人工智能我是认为就今天到现在为止的这个人工智能包括到切的 GBT 已经很强大了但我一个内心觉得相对还是安全的
当我们得到一个错误的信息之后它激发了你内心中间的某一种仇恨人种之间的民族之间的到今天为止这个是本源是用每个人做一个生命他为了自己活下去为了延续自己的一个生命有种利益纷争我相信这是一个不变的源头我前段时间正好看了一部不丹的电影是叫做《生女与枪》
大概里面就讲了在一个不单的社会当中大家变得非常的平和就是他会制止这样一个屠杀所以我认为到今天为止的话我们得到了所有的这样的一种正面的负面的信息更多是来自于与生机的人对于资源的稀缺对自己生命受到威胁的这种不安全感所带来的今天的这样一个人工智能虽然他可能会撒谎但事实上对他而言的话今天并没有一个目标去获得一个生命权
所以当一个 AI 不是生命的时候我依然觉得今天它的这个威胁度是小的到目前为止的话 AI 并没有参与到与人去争夺生命权争夺资源这件事情那更大的一种恐惧的地方是刚才提到的是由于竞争当中的时候我们开始让 AI 参与到了战争
我们开始会研发会打仗的机器人那看着无人机器人开始不用人驾驶了那么这个我们就在设定目标还是他有个活下去的欲望他需要躲避子弹把一个机器人你要泼发成水的时候他可能就会躲开你要拔电源的时候他就会跳起来所以一旦给 AI 赋予了这种生命去延续的力量的时候那这个时候会变成一个更加恐怖的世界所以我认为到今天为止的话呢我心中觉得是安全的
我相信問題是, 經濟組織
我认为这点重要 Zack Berg 和 Yi Mingzhang 我们的中国企业主持 Bidens 他们都对技术的无法适应所以我问问先生您对这种观点是什么呢
他們認為技術是自責任的我知道高科技人
他們有時會有這個不明白的情報他們認為我們只需要增加世界的情報量和速度並且有一個完全免費的情報市場而真相就只會出現了但如果這是你所說的這在歷史上從來沒有這麼做過因為情報不是真相
世界上最多的資訊是幻想、幽默、謊言等等因為首先,真相是高價的,而幻想是便宜的真相通常會很複雜,因為現實很複雜而幻想可以做得你喜歡的簡單而真相通常會痛苦、不吸引人而幻想可以做得你喜歡的沉悶
所以在一個完全免費的資訊市場中,那些稀少、高價、複雜的真相將會被淹沒,被巨量的幻想、幽默和謊言淹沒如果我們想要得到真相
我們不需要有太多的平衡我們需要發展高價和特別的機制我們需要找到真相並幫助這就是我們在科學上的工作我們不只是等著資訊市場充滿資料去發現相關的理論或是去發現歷史的事實真相不會釋出
你認為 AI 使用的最重要問題是甚麼?我可以給一個很明顯的例子我 23 年前認識了我丈夫在一間社交媒體平台中的一位女性所以社交媒體給了我這個美好的東西
所以我不反對人們用社交媒體連結網路我只是也知道有些危險的影響作為一名企業人們通常主要是關於正面的
first of all because they need to convince the investorsand they need to convince the publicto invest in it and to support itsecondly because most entrepreneursthey really have good intentionsso they focus on inventing somethingthinking about their good intentionsthey often don't think what other people
可能和我的創造有完全不同的用途你知道有著阿爾弗雷德·諾貝爾的著名故事後來他用錢來開發諾貝爾獎他創造了金屬
以為它會主要用於破壞洞窗、建造道路、讓建築更容易至少他認為人們在戰爭中使用它的確是個驚喜當我提到這個智能和資訊技術時,就像蘇克伯克或 Silicon Valley 的企業人他們總是喜歡指向印刷的革命
作為他們的理想或模式他們告訴一個故事當印刷技術從中國到歐洲在 15 世紀時期
這導致了一種花絮有這麼多新的資料所有的書都被印刷了這導致了科學革命和革命這對人們的生活真的改善了很多人他們只是不知道歷史因為這不是發生的印刷在 15 世紀中歷史中歷史在 1450 年代印刷發生了這件事花了 200 多年
直到歐洲經歷了科學革命和明智的花絮與人類如紐特、黎明、德卡爾特等人類這在 17 世紀,200 年後的歷史 200 年後,馬上接著印刷的創造歐洲經歷了最糟糕的宗教戰爭和魔鬼狂亂
the biggest best sellers of early modern Europewere extremist religious literatureconspiracy theories about witchesall kinds of fake newsand very few peopleread scientific booksso
這想法我們只是創造更好的資訊科技我們有科學和進步它以前沒有用過我認為現在也沒有用但真正導致科學革命的原因不是科技的創造像印刷公司那樣而是新的機構的創造像是學術報紙和科學協會
那些很高價的、很複雜的程序在說明了相關資料之間的差別,這就是非常小的部分,而不相關資料則是大部分資料
我们来谈谈您的生活故事吧因为我认为我们所经历的事情形成了我们的未来观点老师,您一直在您的过去书中担心未来您总是提出我尊敬的挑战问题而小川是一个真正的
所以我希望您可以借用我所說的"理想和敵意"來解釋一下您的身份、經歷和個人性是如何形成您的未來的看法? 老師,您可以先說一下吧對,首先,我身為歷史學家
我本來的專業是在中世紀起初至少在歐洲時期是非常暗暗的時期充滿了宗教戰爭和殺戮所以這可能給了我一個不太有信心的看法但更重要的是
我 25 年前發生了一個很大的事情我開始了獨立我學習了一位教授叫做 S. N. Goenka 的獨立獨立是一種佛教獨立的獨立它改變了我的世界觀感
自身的冥想很明顯非常簡單第一步是閉上眼睛坐穩定地集中全身的注意力只要感受呼吸進出喉嚨
我去過這次的獨立教學在奧克斯福德學院讀了一段教學我以為自己是個非常聰明的人但我做不到 超過十秒然後突然間我心裡突然有些記憶
一些幻想一些未來的想法它把我的注意力拖延了我開始在這幻想或記憶中滾動兩分鐘五分鐘直到我記得我正在瞑想我應該在觀察呼吸這事件重新發生
我發現了兩件事首先,我沒有控制我的心我以為自己是個聰明的人但我沒有控制自己的心第二,我的心像幻想的工具我坐著,眼睛閉上,呼吸進出我每一刻都在呼吸但我的心無法集中在心中因為它被拘捕
是不真實的事這就是人類的心理經歷中常常發生的事如果我無法觀察自己的自然現實我有什麼機會能夠觀察政治系統、經濟系統
或其他世界上的大事這就是為什麼在我所有的寫作和研究中我集中了這麼多在幻想和幻想當中最強大的力量人類歷史的基礎並非智慧而是幻想和幻想這也配合了我的方法
新技术的科技 例如 AI 它将调查现实我的恐惧是它将创造更大的幻想它会传播人类幻想或创造全新的幻想所以我觉得这种体验是我对过去和现实的方式的方法
对 我觉得跟教授有截然不同的这样一个背景但最后很多想法最后能够走到一起还是很惊讶的一件事情在我从小的话是存活在物理世家的我母亲 我舅舅 我外公都是物理学的老师和教授那我自己的这个数学非常好
计算机 programming 也非常的好包括这个 96 年拿了这个国际的信息学奥赛国内的像这个物理学的奖所以我对于物理世界有个建立有极其理性的一个思考那到这个 96 年的时候上了新华大学
然后也在学习计算机在数学物理计算机这个世界当中浸泡了很多年之后在 2000 年对我巨大的一个变化是在清华读研究生的期间我们这个实验室是叫高型的计算就是研究更快的并行计算机的那当我们做并行计算机的时候很自然会找到它相应的应用场景其中一个大的场景就叫做天气预报
天气暴动用很强的计算机像地球仿真一样去模拟天气的运动天气暴是需要巨大的一个算力我们都知道有个词叫做蝴蝶效应就是在非线性的系统当中间最后一种混沌 chaos
所以最后结果是不确定的我们都读过一本小说叫三体三体里面叫做 three body problem 就是三个球互相绕着转的时候未来的轨道就不确定了三体新人他们的文明非常发达但是不知道自己未来的命运是如何的所以在我的心里当中天气就是一个不可被计算的事情时间长了就走向混沌那我这个老板就说我并不躺在一个去做天气报相关的工作这个应用一点都不性感
那正好是 2000 年是人类基因组计划开始了当时正好是做基因测序那也是需要动用很多的算力所以当时我选择的题目就是基因测序的拼接算法也是动用大来的这样一个算法能够把之前人类测序的各种基因把它最后拼成一个人类基因序列所以我就无打无撞的开始对了生命科学对基础医学产生了一个连接
在当时的话呢这个除了基因测序以外我们有同事在这个研究像细胞到今天为止细胞都是一个非常复杂的题目在 19 年到 21 年 Alpha4 相对解开了这个基因到蛋白质结构折叠的问题但是今天的话要模拟个细胞还是做不到的而且我们就讲着这个细胞本身比天气预报还要天气预报是复杂后面的更复杂所以如果从原则上讲那比天气复杂它也是出现一个混沌
但是我们知道细胞它有非常清晰的界面它有细胞膜有细胞核甚至会做有丝的分裂最后从一个受精卵在十个月后还能生出一个婴儿来甚至婴儿还长得跟爸妈像
这件事情完全是不可计算的一件事情我们说哲学上可以看到因为人生出人老鼠生出老鼠来跟爸妈长得像其实这是一个哲学问题这不是一个数学问题但牛顿是用数学解释了物理所以物理学是代表了一种数学去解构这个世界非常高的一个水平但是用这样的一种数学工具这种公式是没有办法去解释生命的
生命依然处于一个哲学的问题但是尤其清楚的又能够产生出很多的有序性当这个理论不能解释现象的时候我们不能说现象不对只能说理论不完善所以我当时很大的好奇心就是什么是生命今天我都能好证什么是生命我相信 99%人说不清楚的是代白质吗是一生生代谢吗那从这样一个数学物理的世界观它对生命的定义是这个系统
它能够自我复制并且的话呢它能够在变化当中保持自己的稳定性能够复原的能力就 resistance 的这么一个能力你们知道一个煮熟的鸡蛋它不会自我复制的但是鸡在下蛋是一个复制的这种能力而复原的能力的话呢从一个细胞它可以自我的复原甚至 DNA 是自我复原一个人的话如果人要杀你的时候你还会逃跑这种复原是非常高的一种智能
当我们用这两条法则去判断生命的时候我发现它脱离了我们一种生物学的循环定义但同时又能够对于生命在本源里面有非常好的一个简单的规则去定义它我是非常信仰这样一个定义的方式的所以它脱离了数学物理化学是在信息论的方式来定义了生命那之后的话作为一个理性我就突然间想明白了一个问题如果我是一个生命那我的细胞是生命吗细胞也会自我复制它也有复原的能力
那 DNA 是生命吗 DNA 的母板上一个地方断掉之后以另一个母板它会重新也复原
那之后我就想到如果体内有生命我体外有没有更大的生命当时接触一些社会学的这些书籍然后在看的时候的话突然想明白了一个道理其实一个民族或者一个国家它也是有一种类似生命的这种形态的它为了维持它的稳定性它会制定各种秩序有道德有法律以维持它自己的一个稳定不被破坏公司也
也是一个生命一个公司要活下去比如公司臃肿了就像人肥胖一样的这个你需要裁员甚至公司中间一些人能够离开这公司之后创立新的公司也是一种播种的这样一种能力所以重新建立这种新的审美之后我以生命的方式来重新认识这个世界就完全脱离了物理学的这样一个背景在物理学世界里面看到世界好像是非常的有规律非常的精准但是你没法预测五年后十年后一百年后的变化我们把一个苹果放在地上
那可能五年后它长什么样你可能它就被细菌吃掉了但生命反而代表一种生生不息延续力量它走向伤减的
因此物理学代表了精确最后所谓的混沌而生命看似混沌走向了商解这使得我重新建立了对世界的认识所以当我看到一个国家的一个总统他的想法的时候你都会看到他实际上是一种活下去的这样一种欲望你都理解他都是一种生命的力量当用这个维度的时候把很多复杂的事情就变得非常的简单了因此我开始建立了我对一个大生命的这种尺度的理解甚至包括我是谁我与这个世界的关系找到新的一种解释的方式
这次注照我后来的这么一个大世界观甚至我们当时记得看到有一个皮克斯电影叫做 Coco 中文叫做追梦环游记追梦环游记它对生命的理解什么你死掉不是你肉身的死掉是被你的最后一个记得你的人忘掉了你就真的死掉了所以很有意思就是当你对世界还有改变的时候你就是活着的每个人都会死掉那我们怎么延续自己呢那我想一种做法是生孩子但有些人的话会创建一个公司
像乔布斯他通过公司能够延续他自己的这样一种生命那第三个重要的关键词就是语言从 2003 年开始我当时这个是在做搜寻情就开始在做语言相关的工作后来我们做了搜狗的输入法当时我就特别想强调 AS 怎么能够帮你去写文章或者帮你去回答问题只是在那个时代里面 AS 做不到的
2016 年到来的时候当时 AlphaGo 来了我会非常的兴奋从 95 年的这个深蓝到 2016 年的 AlphaGo 我是精确预测了这个机器能够赢的我在知乎上有两篇帖子一篇帖子就是在二月份的时候当看到的 AlphaGo 论文之后我讲的他能赢因为我是一个 AI 狂热的这么一个爱好者
之后的话 AlphaGo 赢了之后我又写了篇文章说是 AlphaGo 的这样一种做法其实重演了一次人类的进化史就是 2000 年来怎么下围棋的这个过程 AlphaGo 它自己就学会了甚至来讲 AlphaGo 可能跟人的走棋规则不一样就像生命进化一样对我们的一个哲学思考究竟从围棋的一个人类的进化里面跟 AlphaGo 有什么异同也能看到人类进化的这样一个区别
但那会儿我也知道虽然非常大家觉得这个启蒙 AI 到来了但是毕竟没有解决语言的问题我甚至当时想如果是能有套语言系统它能够你述一句话的时候它能自己把它翻译成一个短语或者一个短语所能翻译成一句话这个能够解释所有语言的这种现象那我就当时就理解强人工智能就会到来因此我在 18 年的时候又写过一篇文章叫当机器掌握语言
强制人工智能就到来这是 18 年我这个思考到 19 年我就决定把公司卖给腾讯就是还没看到这个 AI 被突破的这样一个前景 21 年的话呢终于完成了这样一个交易所以到 2020 年底 10 月份 CHAT GBT 发布之后当我一旦用到了 CHAT GBT 我觉得已经变天了语言真的被变成了数学问题语言被掌握了所以我很快在在圈子里面就强调人工智能 AGI 到来了
我相信你们知道当时的话呢在 23 年初的时候还有很多争论到底是不是强中之呢很多的我坚定是到来了我说那不关键智力是藏在语言里面的我的语言有特别大的一种情感因为我们的智力本身是类比和推理而语言就是人类类比和推理的这么一种一种符号那之后我也预言还有两个东西会也是跟语言一样强大一个是数学语言数学本身也是一种类比和推理的工具还有是代码啊
代码它也是能够在里面是对一种抽象类比代码的运行也是一种推理我之前对语言有很多很多的这种思考所以在最近两年里面也不断给大家在讲像维特斯根斯坦讲的叫做语言边界就是世界的边界甚至包括这种图灵测试开始讲到了这个用语言会说话来代表一个智能因此的话从我自己背景里面我认为就能开始看到了这个一个新的时代的到来
他走出了以前我们的一个科学时代我把以前的时代称为科学时代是对于物理世界的建模是物理变成了数学我们理解了引力理解了量子力学但这次的话呢是叫语言变成了数学语言变成数学意味着不是对物理世界建模它是把人类的思考沟通和知识变成了数学问题
所以他不是对客观世界去理解而是对人的主观能动性和人的方法进行了一种理解和掌握几百年来是第一次发生的一个重大的变化我会把我们的世界分成三个阶段以前叫做科学时代现在的话叫做智能时代智能时代是指的语言变成数学就是这个时代的起点
再往后我称为共生时代把生命变成了数学然后解码生命之后我们会获得人跟世界之间有新的一种相处的方式因此这个是我觉得我的过去的背景和工作里面所给今天所带来的世界观所以这个非常有趣我想要提到一个非常重要的问题什么是生命因为这就决定了我们如何向未来的生命
我认为我们没有一个正确的生命定义但我认为重要的意思不是生命或智慧而是自我或知识而最重要的事情是对受受伤的能力或对受伤的能力来说对我来说 知识是能力去受受的能力不能受的东西并不是一个知识的统治
所以它没有正常的律法你提到国家、公司和文化这些人的生活他们不能受苦国家不能受苦公司不能受苦如果国家输了战争人们可能会受苦但不是国家国家没有心理能力它不能感到痛苦它不能感到不安公司可能会被禁止
但當公司被遺棄時公司的經理或工作人員可能會感到傷心公司不能感到傷心它沒有意識 它沒有心人類和其他動物他們是靈性的生物他們可以感到痛苦和恐懼當然也能開心感到喜悅和愛這我覺得是宇宙中最重要的一件事就是這種能感到
无论是与愉快或与苦这就是所有的律法的关系大问题是 AI 能否感受 AI 是智能的,没有疑问但智能不是自知的只是有高智能的意思不代表 AI 能感受喜怀、悲伤、恨或爱意不代表 AI 能受苦
这也有很重要的影响在人和 AI 之间的未来关系中我们知道 AI 可以假装感觉我不确定 AI 可能会说我爱你
我問你真的能感受到愛嗎我確實不肯定你能感受到愛我確實不肯定你能感受到愛他們的行動和言論都能讓人感受到愛一個人工智能的智能人物歷史中所有的情緒詩書所有的情緒書在人類歷史中都能讓人感受到愛
比任何的詩人更好的它可以説服我們 而且它個人認識我們它可以説服我們 它愛我們但也許只是數學的規則真正的關係必須是兩面的所以我想大問題是 AI 和人類 AI 的未來的共存首先是 AI 會發展嗎
教授的这个观念我同意一半
同一半我认为今天的人工智能是没有这个 consciousness 就它没有 suffer 这样一个事情的但我源头就因为它不是生命今天的这么一个智能它没有一个活下去的欲望所以它没有这种恐惧没有这样一种欢乐就没有这样 purpose 在后面未来会有吗未来如果我们做了这样的一个军用的机器人所以我先同一半今天是没有的
但人是否有 suffer 这事的话呢也是重大的一个哲学问题甚至叫他心问题就我只知道我自己有痛苦但别人痛苦真的有痛苦还是装出来的见情况下是无可得知的一件事情我们当然可以测查神经元的这种变化去通过这种神经元的变化去感知他哎这个某个神经元被激活了所产生的这样一种一种痛苦
那如果以这个为标准的话 AI 最后变成富有生命之后它的神经元可能又同样被激活今天我们一月月发现了大模型所带来的神经元网络结构里面它的特征已经跟人的大脑是越来越像了哪个区域是一些跟记忆相关的哪个区域是跟活动相关的所以我都认为生命而言的话它确实是带来有痛苦但痛苦并不就是生命的本质也许它有痛苦但是我们不知道它有没有中文讲子非于焉知欲知乐
对吧所以这件事是一个不可求证的问题所以它不是个科学问题它是个哲学问题因为痛苦这件事情就不是属于科学范畴的事情了
我曾經跟 Kevin Kelly 交往,我也認識他他的觀點是我們人類總是害怕失去控制但他認為我們可能會讓這件事發生那你覺得我們會找到新的命令在所謂的失去控制中嗎?這可能是危險的其他動物失去控制,而我們就把他們毀了
像你所說的牛和豬牠們失去控制的生活現在牠們生活得非常苦惱因為我們控制著牠們
而這只是一場大賭博,只要失去控制力量,並且讓 AI 控制我們的未來,也許他們會把我們毀滅,也許他們會對我們像我們對貓和狗一樣的樣子。所以我會小心點,在我們急著失去控制力量之前。我剛剛聽說兩位大型銀行的銀行
我一直在想 自 2016 年開始你有很多機會與一些科學家、商人和政治人士交往但這三種人的關係更接近 AI 發展的決定你能否分享一下你與這三種人的交談故事?他們對你對付什麼?
有些聊天是在網上的私人聊天我會保持私人我只會說人們在公眾和私人上講話是不同的在公眾上 特別是他們擔任公眾角色例如政治家或創業者他們要非常小心地說話在私人上 他們通常會更加擔心
而害怕的事物,而不是公開的事物因為他們不想太令公眾感到恐懼科學家有最容易的時間他們可以講更多,就像我之前所說的
我問了幾乎所有人 特別是商業家和政治家我問了他們這兩條問題為什麼他們動作這麼快?你們可以相信超明智智慧智慧智慧?幾乎所有人都在這個 paradox 中說他們不可以相信其他人但他們認為他們可以相信超明智智慧智慧智慧所以你們滿意他們的回答嗎?
不为什么因为我觉得如果有人告诉我我完全相信人类我也可以说明白为什么你相信人类但他们不相信人类
如果人類有深刻的疑問,很奇怪的是,我們沒有經歷過這種不有機的物質的信心。世界上有很多動物,我們使用牛和豬,因為我們想要肉類和產品。
很多動物我們不因為想要操控它們而是因為我們不在乎它們例如我們把他們住在的森林破壞了以為要建造新的高速道或什麼的我們甚至不想要操控它們我們可以做這件事因為我們非常強大我認為同樣的問題是 AI 的問題它不一定想要操控我們或是破壞我們但它不會很在乎我們
我们每次工业革命都对这些客观世界在物理学上有一次重大的突破
到能源的掌握开始有了这样的内燃机然后到最后对信息的掌握有我们的互联网的革命而这次的话它不是对客观世界建模的它是一个类似人一样去感知认知思考的模型所以它这样今天的技术的发展跟我们前三次科学革命所带来的是不一样的
那从现象上也是以前科学革命带来之后的话呢是生产力的一个提升并且的话社会分工会变得越来越细工业革命虽然带来了很大的物质财富的发展但是人变得更加的渺小了大多数人就变成了牛马只想以螺丝钉一样的活在这个世界上而这次智能革命的这个变化刚才强调了它是对于人类行为的一种掌握或者模仿
那么使得往下我们第一个现象社会分工会变得越来越少而不是越来越多包括我们现在做医生也是以前在分科越来越细有内科的外科的甚至在医院里面还有上肢的甚至手腕的科室我们在儿童医院做这样的一个叫做 MTT 会诊的时候的话里面做了十几位儿童医生顶尖专家来自他各个科室的但今天用一个 AI 就能把十几个人他的思考一个 agent 他就能去完成
所以再往下的话我认为社会分工就开始会收缩这是可以预见到一个未来每个人可能是从原来变得更加渺小现在可能一个人又会变得更加的强大这是我认为这个时代所带来的一个变化它就不是一个工业革命您同意吗?我认为最大的差异是我之前说过的在工业革命中我们创造了工具例如蒸汽车和车现在我们创造了机器
以前人類決定了產業的使用現在更加多人工智能決定和創造而我認為從工業革命中的主要課題還是很重要的就是
即使科技最終是有利的工業科技最終在終點上創造了人類的更好的世界但問題並非目的地問題是路線當 19 世紀工業科技創造時沒有人知道如何建立工業社會所以人們去研究很多這些研究都做得非常錯
歐洲的國際主義是如何建造一個工業社會的實驗德國是如何建造一個工業社會的實驗人們以為這是一個好方法現在我們更清楚了但這花了兩百年
我認為,如果這是一所大學考試,而我必須給人類一個標準,那人類得到的標準是什麼呢?在工業革命的考試中,我認為人類得到的標準是 C-,足夠的過渡。最後,它還好,但非常非常難。現在 AI 在相似情況下,
AI 可以带我们去美好的目标但我们没有模拟如何建立 AI 社会也许我们又要再次经历这些糟糕的浪费新的帝国和战争之类的试验我们要做得比这次 C-更好因为不然的话 人们将受到多数人的压力
我非常想知道如何去超越 C-的問題?小川所說的,他的公司正在建立一個醫療機構。我們要知道,人類的醫生中有良好和壞的醫生,我們如何確保 AI 醫生們無法被你所知的壞醫生們保護?
其实当我用好医生坏医生的时候就已经赋予他过多的含义了因为我们今天找医生是他一个目标就是让人变得更健康他不是一个自己有生命他自己有自己欲望的这么一个 agent 所以这种情况就像我们做文家史的一样的然后我们很难去想象一个好的文家史坏的文家史他就天天琢磨出怎么去装车把人给搞死掉
所以这里面我们认为今天在现在只要不赋予 AI 生命的时候它都是相对可控的我让他成为好的一个工人他是一个好工人他是一个医生就是好医生这是由他的这样的一个算法底层所决定的如果他做的不是好医生我认为更多是因为我们今天人类对医学的认知不够
所以今天我认为在讲医生的时候当用好坏去判断的时候我们可能已经过度放大了这样一种恐惧是对这种算法的本身的不理解或者人类一种自大因为人类医生来讲的话坏医生肯定比机器医生会多很多因为人有更多的欲望
他甚至为了这种自己利益所以他有可能是这个不仅做善良的事情 AI 敢讲没有痛苦没有情感没有欲望所以大体上 AI 的医生会比人类医生这个会更加的善良和更加的这个工作有效因为他的欲望更少一些是吗是啊那关于刚才教授提到的问题就是我们怎么样能够做到比工业革命人类的 C 减的表现更好一些
这是很难的一个问题其实我们通常都好心办坏事交通很发达的时候我们说世界是平的就好像代表了一个更加美好的社会结果发现这个形成一种新的阶级富的人更富穷的人更穷全地球变成更大的一个金字塔所以这里面是否能够变成更好的一个社会的话呢确实是有他自己的压力我们相信经济上医生是一个好的事情是能让大家的身体更健康
让大家精神更自由这个可以做到身体健康我们可以用一个词叫做生物自由以前我们提过词叫财务自由不会因为没钱带来一种不自由但身体变成健康我觉得这件事情是可以到来的所以我觉得我尽力能够使得我自己所工作的环境里面是更好的但基本上也会有一定风险比如说如果每个人都能活成 200 岁到 500 岁
可能这个社会会带来新的问题所以这个对来讲我们只能一步走开所教的刚才叫 C-这次什么到六十分这事我确实这事没有那么强的信心从整个这个社会而言 Professor, you have an opinion thatwhat makes a technique really out of controlis the centralization of power
我想要给大家一些建议给有力量的人来提供建议来影响整个生产世界的发展所以我觉得有两件重要的事情首先如果所有力量都在一个公司或一个地方比如说一个公司只能够生产所有 AI 医生而这个公司做错了
那就是所有的 AI 醫生所以如果你有幾個不同的醫生也許這個醫生不會做得很好但是另一個醫生會做得很好所以這減弱了取得 C-的危險另一個是自復
我们也看到在生物系统上很重要的是一个好系统总是有一个自制改善的方法例如一名孩子学习走路他试着走路,他跌倒了然后步步地学习走路即使是年轻人,我走路时我脑中总是有一个自制改善的方法我看太右,它会改善我看太左,它会改善我
同樣需要科技的同時最重要的一件事是 AI 醫生、AI 軍人都要知道自己可以犯錯所以我必須不太自信如果我懷疑的話我只要說我懷疑了我必須公開承認和正確我的錯誤
我們必須非常小心地訓練他們以防他們做錯誤和誤會對 以防中心化和誤會不要太中心化 而避免不可避免的法律
你或 AI 認為它是無法被消滅的事實上在人類歷史中最糟糕的事情是當有人確定他們從來沒有錯過
今天我們討論的題目非常重重、深奧、嚴重但我認為普遍人的大多數人他們擔心的是 AI 會不會代替我們最後我們回到主要的題目就是 AI 今天好像可以做任何事情
人物的任何不可替代的价值有什么建议?首先,意识和感觉。对于智能,我觉得游戏已经结束了。任何一种从玩高尔德到治疗、做医学研究的智能,都只需要时间,才能比我们更好。但智能不是意识,
不是敏感而在深入的層面上生活中最重要的是意識不是智慧而是感覺的能力我認為道德最終是關於苦惱的事物如何減少世界的苦惱?我們知道只有人和動物可以受苦和敏感所以這還是最重要的事情
如果 AI 能够发展感觉能够发展感觉的话那是个完全不同的情况而且重点是我们甚至没有办法知道但至少现在
我认为人类太注重自己的智慧而忽略了自己的知识而这两个知识是更重要的教授 您能否分享一下自己的知识或甚至受苦的时刻每次我们生命中 重要的事情
不是智能智能是我們用來得到的工具我們最重要的是愛我們最重要的是悲傷 喜悲還有痛苦 還有悲傷我先講講這場獨立的獨立獨立
在身体中专注于身体的物质的感觉就是呼吸进来和出来这就是你意识中的东西至于我们所知 AI 甚至无法感受到甚至这种非常简单的东西就是空气的动作进出
我相信這動作非常深刻這動作是連接著宇宙的所以你每天做的獨立獨立獨立獨立我看到你說你從來沒有使用手機是真的嗎?是主要是真的因為我丈夫有手機所以手機的所有壓力都在他身上
但我总体来说,我尝试保持一个情报训练,留下很多时间,去写意识,去思考。电脑是一个用户,它将我们的时间和注意力抢占,所以有时候是好用的,但我尝试把这些情报技术处理成食物。
同樣地,人們有食物飲食,我們需要資訊飲食以減少我們消費的數量以給予更多時間去吃、去反應並且要注意我們消費的資訊質素電話通常都會充滿垃圾的資訊最後,你能否給予人們一切的祝福?我覺得,只要人們
相信其他人的信任比我們相信 AI 的信任更多的話我們會沒問題的而且我們也能夠建立一個跟 AI 的好關係如果 AI 出現了與人類合作的努力的話那它會反映這種合作和合作的心情如果 AI 出現了強烈的強力競爭
克拉利教授因为时间的关系所以先离开了我们录制的现场但是我还有一些问题想追问小川总所以很感谢小川总的时间要不先从刚才聊到一半的医疗 AI 可不可以给我们更多的细节大模型其实大家认为它是一个 agent 或者是一个人
或者我们就是在造人像人一样的思考能沟通店里面的话呢对我而言我觉得非常性感的事情就是去找医生找医生我觉得有两个重要的意义第一件事情的话呢今天这个全地球包括中国的医疗资源是不够的有些医生是匮乏的有些儿科医生是匮乏中的匮乏的我们每个人都希望自己有一个医生朋友或者一个私人医生为什么儿科医生是最匮乏的因为儿科医生的话呢是不赚钱所以大家不愿意做儿科医生做
中国只有 20 万儿科医生我们的缺口大概在 100 万因为成人的医生的话是可以做手术儿童的话他严重的这种罕见病是少的治疗方案相对也有限所以就使得大家不愿意做儿科医生咱们知道医生是要做科研的但是医生做科研的话尤其他每个人看的病人可能也不够多甚至由于日常工作很繁忙所以临床的时候他也没有足够的收集数据比如说病人来之后开了药但是患者的一些查体也没有被记下来
大家很忙的时候甚至记下来也不是真的所以这样的话使得他工作里面的数据的维度准确度是不够高的甚至医生一辈子也就看可能几万个病人几十万个病人没有做过大的样本因此当我们有 AI 医生看病的时候他能够把你的这样一个全病程的数据做记录甚至全生命周期的数据做记录因此这个整个过程就变成一个可以研究的课题有这样数据之后的话我们对于医学的理解里面就能够上个台阶有新的一种发现咱们知道今天的医学其实相对物理学是
落后很多今天的药品一个最领先的药那你在临床实验的时候如果上了一千个人做实验其中有八百个人有效医学上称叫有应答是
这就是很好的药了十年时间十亿美金发明这么一款药但剩下 20%可能没效果就是我们对医学里面的人了解很少那有可能是今天你吃的有效明天没效这个男的吃的有效女的没效你在这个九零三吃的有效你在成都吃的可能没效所以里面有太多的数据没有得到观察维度包括 Astrophysics CEO Darrell 他就讲今天 AI 对我们做这个医疗很多时候不是帮助我们只是总结数据他能够做实验设计帮我们更好的生产更多数据
所以你们的大模型现在具体可以做些什么
像大膜形动化这个大的功能一个在院内的时候它其实已经根据你的这个提供的你的检验检查对吧你的这种症状然后各种这种数据能够帮你做你的这样一个病情的分析那么从诊断到治疗原则到治疗结果里面会给出很多的意见并且这个意见它是有过程的我们以前老说 AS 是一个黑箱对吧你刚说是这个 black box 但其实这件事情已经是过去式了
今天我们类似于用 deep-seq 大家用过的你就知道说它会有个思维链对过程中它会把怎么思考的过程给打给你看因此我们家 AI 医生也是用我们的 M1 的推理引擎的时候我们的内部的医生包括医院的医生都看到说觉得家的推理过程漂亮思考得非常的严谨完整对医生都很大的一个启发所以它比大多数医生是绝大多数医生他的这个见过的病只是更多思考得更加的完整更好的推理这是能够辅助医生的部分
那另外一件事情的话他工作场里可能在家里面他能告诉你说一些建议你是否该去医院我们称之为做人等级你是可以居家再观察一下还是需要去医院还是需要急诊就像游生朋友一样给你很多的这样一个建议既能帮助到医生也能帮助到具体的患者家长所以现在数据这一方面有难点吗
现在讲的话跟以前不一样以前做图像处理的时候大家是有很多数据难点的而这次而言的话更多的地方是激发他的一种推理的能力把医生推理做进去现在我们跟北京儿童医院是有深的合作成立北京的中间实验室背后我们一套方法能够构造不错的数据所以在今天这个医生而言比以前图像处理来讲他的强大的能力会多很多并且和大家提到的幻觉问题是也今天不是大问题因为我们今天的这个 AI 它是通过思考之后像人一样的它会翻书
翻译之后把中间的这种指南用药的这些方法都能够注入到他答案里面去因此今天讲我们讲的幻觉问题或者是叫做黑箱问题今天都是可解的事情这么坚定的吗就是完全可解错误率现在可能是 1%以下因此我们认为比绝大多数人他的在这个内科在这种诊断或者这种治疗原则上已经远远超越了
你刚才讲就是医疗模型的这个推理问题很有意思我理解是不是他就是把人类医生的这种经验他的所有的这种推理过程都传授给模型对他不止经验我们老说医学是叫经验的科学但经过做总结之后会形成一些我们的这些思维方式治疗原则他在这种推理过程也学过去了所以既有经验又有这样的一个原则
所以刚才教授提到的一个非常关键的问题我听下来在你们的应用场景里面暂时还没有给到所谓 AI 医生一个决策权他可能更多给到的是一个建议或者辅助诊断的一个角色是吗对 这是来自于法律法规但是法规里面的话是这个诊断和最后的处方权是鬼医生的
因此一生之外是 AI 是不能给的那我相信随着这个技术成熟后你对它理解那更多的这样一个权限会放给 AI 的我最感兴趣的一个问题就是我完全理解你对于生命科学的这种热忱但是我还是会觉得你做医疗大模型这件事情是一个很勇敢的决定
因为所有跟医疗相关的它似乎人们的健康人类的生命一旦有一些失误就会有特别大的舆情今天其实没有来得及讲到 2016 年发生两件大事一个是阿发沟战胜人类棋手另外一个是百度魏则西事件我知道你之前有提过百度魏则西事件其实给你非常大的触动当时也埋下了一颗种子令你后面想做生命科学相关的探索
所以大家会用勇敢这个词或者我们用的词叫 BET,是赌一件事情其实在我看起来我已经看到这个未来长的样子了所以我不觉得这是一个赌或者是一个勇敢 16 年两个事情的话呢,当时我们一个看 AlphaGo 人工智能是已经有次启蒙但是那次启蒙的话呢,机器没有掌握语言所以并不代表它是能够像人一样的去工作那会还有 Ibn Wilson,最后也失败了
如果大家问我为什么失败其实一个大的原因就是那会技术还没有到今天这个机器掌握预言之后已经带来巨大的一个变化而确实来讲 16 年之后的话百度遇到了魏泽西事件作为搜狗的带头人我们当时的话也知道 AS 没有能力像人一样去帮你解答问题的
那是我们当时发布的这个模型能力是叫做搜狗名医这个名是日月名叫明明白白看医生使你得到更多充分的信息去跟医生去接触那么当时我们也知道靠连接医生互联网传统做法是不 work 的比如淘宝你可以做连接美团做连接滴滴做连接但是医生靠连接没用因为优质的医疗资源就有限
这会使得挂号网春雨医生等等他能做到这个服务是有限制的好的医生就那么多当时我的认为是知道技术足够突破的时候能够去找医生而不是找医生才能带来大量的变化
因此到二十三年的时候 A 阶段这样一个突破语言的突破使得我们就知道了医疗行业赵医生会变成一个可行他是既能够造福大众又能够实现我以前的一个愿望是生命科学解码中间的一个关键的环节所以我就觉得这是一个特别有意义的事情只是在那会儿的话在二十三年的时候技术还不像今天发展这么快到了
这个二五年的时候反而来讲这个环境变得更好了对我们特别致敬像 DeepSick 它已经这些很多方向上有它的这种探索从论文到代码上都有它的这个开源使得这个整个行业能够在未来做突破时代变得更快了所以照医生来讲的话它的这个进展也会加速我完全不怀疑就是 AI 的这个技术发展的速度就像刚才教授说的就是大家都觉得在很快的发展然后所有的商业机构其实
都没有办法停下这个当中可能一个很值得关心的问题就是我们怎么确立飞速进展的这个技术的边界因为一旦要落地到应用我们就需要知道它的边界在哪就是它能做什么不能做什么尤其是涉及到医疗这个严肃的话题
对其实这件事并不是多难的话题就医疗这样核心东西叫做评价体系发论文的时候知道你的有效性所以医学统计它都不是一门课是一个系如果你把当成一个药当一个器械来看的时候已经是很有标准的了只是当这个人来在考虑的时候那么今天大家还有很多蒙圈状态尤其是我跟一些大专家一些院士沟通的时候在大家这些的心血停在之前这个叫影像时代
所以当它这个有试点能够落地之后那么这个过程会非常快地加速包括我们儿童医院的这样一个合作我们在这个试点的地方能够在医院医生指导下真实上岗真实能够对患者产生作用真的能够舍得你的这个卫生经济学上能够使得这样社会成本降低那么这个国家政策会相应变化的这个速度我觉得比文教士可能还会再快一些试点的这个场景里面具体会发生一些什么能不能给我们介绍一下首先我们的医生已经跟 AZ 联合上岗了
在医生的使用的时候在去复杂疾病的时候这个系统就会给医生相应的这个建议那么我们在今年内很快就会把这些系统部署到更多的儿童医院它的一些这些更加偏基层的医院使得这种医生也能够有这样的一个 AI 小伙伴去辅助他们做诊断决定权的医生这是不违规的再往下的话能使得每个家庭里面都能拥有一个你的 AI 的保健的儿科医生从法规上不能给你做后面的这种开除方治疗但是能给你相应的建议甚至这个时候它能跟医生连接在一块使得吧
这个互联网医疗能跟这种家庭的东西连在一块整个社会的这种效率都能够大大加速很多事情就看到以后的家长就不用带着孩子天天往医院跑了可以缓解我们的这个医疗资源匮乏的问题我们国家儿科医生不足一个我们这样强基层大家都到三甲医院去挤堆使得这样的一个早诊早发现甚至在市区里面去做大家变得更健康对国家的医保开销也能得到巨大的缓解既然未来在 18 个月内我估计就会有巨大的普及这么乐观 18 个月
所以逊模型和说服应用落地这两件事情哪件更难都还好吧两年多的这个过程当中有没有让你觉得比较 suffer 的事情所以这里面的话呢确实我认为太多的这些人可能有时候叫信仰不够或者没有看到未来当然有多大的声音所以不管是这个社会层面也好甚至包括公司内部层面也好不代表所有人都能够有这么坚定的信仰在一个困难时往前走所以当然很多时候是叫你先相信
这你已经看见了,让你才去实现它。所以我觉得这个,如果你 suffer 来讲的话,是内部的有一些同学,有一些这些员工,他们这事情没有坚定信仰,遇到困难时他就会停下来。这是个我觉得是这个是需要去不断寻找更加自重道合且有信仰的人。所以对你来讲,因为你内心一直有相信,所以你很少 suffer 是吗?对,我不 suffer 这事儿。对,我只觉得大家没信仰就很遗憾。那你能不能分享一个最近应用案例当中让你比较兴奋的?
其实之前的话呢就上次内蒙古我们刚刚那个照我们的推理引擎的时候内蒙古当时一个市医院的一个父亲被诊断应该是脑梗什么的在医院住了十几天医生已经下最后通知觉得嗯
没得救了女主把他往北京送过程当中的时候正好有联系就我们推理引擎就开始做推理告诉他有三个这个病的可能性是一种三个健美诊断到了协和之后的话协和的专业医生一查有四个其实我们当时已经命中三个了这次发生在春节前的这么一个事情所以当时我们已经看到了 AI 在里面能够比一个市级的医院已经会在某些问题上强很多了这次创业有带给你更兴奋的感觉吗
我觉得会的就是因为之前头一次创业的时候坦白讲它是一个这个搜狐公司的子公司自主性相对有些限制那另外的话呢当时做搜索引擎一笔百度完了好几年你做了一个并不是世界需要你的事情对当事物法来讲是叫做无心插柳所以能做一个世界需要你的事情会变得特别的重要不在于你这个时代给了我们这种机会而医疗是时代所需要的因此 A4Sense 也是需要的做世界需要的事情会变得很幸福
好吧祝你幸福谢谢好谢谢