We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 【強者我朋友】他要靠一個軟體改變人類世界!加入矽谷最強加速器,是什麼體驗?ft. Heptabase Alan|EP 112|志祺七七Podcast

【強者我朋友】他要靠一個軟體改變人類世界!加入矽谷最強加速器,是什麼體驗?ft. Heptabase Alan|EP 112|志祺七七Podcast

2025/2/8
logo of podcast 強者我朋友 by 志祺七七

強者我朋友 by 志祺七七

AI Deep Dive Transcript
People
A
Alan
佳瑜
志祺
Topics
志祺:我认为接下来的十年是创业的黄金时代,AI技术的发展为创业者提供了前所未有的机遇,可以更低的成本实现更多的创新。 Alan:我深信AI正在引发一场平台转移,对各行各业都带来深远影响。作为生产力工具公司,Heptabase致力于利用AI技术帮助用户提升学习和研究效率。我们关注如何更好地预测用户意图,理解用户需求,并生成个性化的内容,从而为用户提供更智能化的服务。同时,我也意识到AI的发展也带来了一些挑战,例如就业市场的结构性变化,以及对企业创新能力提出的更高要求。 Alan:我坚信AI技术正在重塑商业格局,为创业者带来前所未有的机遇。Heptabase致力于整合AI技术,为用户提供更强大的学习和研究工具。然而,我也意识到AI发展带来的挑战,例如如何平衡新老用户的需求,以及如何确保AI的伦理和安全。我始终坚持以解决用户问题为核心,不断创新,努力打造一款真正有价值的产品。

Deep Dive

Shownotes Transcript

接下來的時代,或者說接下來的十年來會是如果你是一個非常有好奇心的人或是你是一個非常有野心的人的話

非常好的時代對於創業者來講因為你可以透過 AI 或透過很多 AI 的服務或是透過很多軟體服務用更低的成本去做到非常非常多的事情嗨吼 大家好 我是志祺歡迎回到《強者我朋友》今天來賓是新創圈的朋友詹宇安 Alan 那《強者我朋友》強在哪呢首先他是一個非常熱愛學習的人熱愛到他的創業項目就是做跟學習有關的生產力工具然後他創業的時候只有 23 歲更厲害的是他選擇創業的地方不是在台灣 而是在美國

甚至他還在沒有任何外國身份、學歷跟推薦管道的情況下被美國頂級的創業加速器 YC 給錄取 2023 年,他們公司的產品 Heptabase 也獲得了全球最大的產品社群 Product Hunt 個人生產力類別的年度金貓獎今天我們會來問問 Alan 他為什麼會選擇在美國創業以及 Heptabase 是如何在競爭這麼激烈的生產力工具市場站穩腳步,甚至逐步成長的

OK,那就請 Alan 跟我們的觀眾簡單自我介紹一下吧!

哈囉大家好我是 Alan 我是 Hyptobase 的 Co-Founder & CEO 那今天除了我們之外呢還會有這個客座主持人佳瑜會跟我們一起來聊聊哈囉大家好我是佳瑜好那這次其實是 Alan 就第二次來我們節目了那聽說就是你在創業後這個階段好像多了很多的心得想要跟大家分享嘛那今天要不要來聊一下我可以先講一下我們去年到現在因為我們

我們是 2021 年 9 月創辦的然後在 2022 年年初的時候加入 YC 那 2023 年就是我們公測一整年多 203 年 9 月的時候推出 1.0 版這樣子所以我們其實從去年到現在就是 1.0 版推出後到現在大概一年多的時間那產品

就是用戶數在成長的大概三四倍所以等於原本的團隊的人數有點負荷不來我們現在的這個用戶的規模這樣子所以今年也算是擴編的團隊等於擴編了一倍那另外我們現在產品上也就是不斷的隨著這種 AI 的出現然後或是一些更多的用戶進來有不同需求我們就會去調整一些方向來更好的去適配更大規模的用戶這樣

好 我覺得在這邊有些觀眾可能對於 Heptabase 其實沒有到非常非常熟悉所以我想說先請 Allen 跟觀眾介紹一下 Heptabase 是什麼然後以及近期大概還有什麼樣的里程碑我就在使用功能界面上面的里程碑跟大家分享一下 Heptabase 是一個專門幫助你學習和研究複雜主題的一個視覺化的筆記軟體那我們核心的功能就是卡片和白板就是用戶可以創建很多的卡片然後可以把這些卡片放到白板上去視覺化去對他們在乎的主題建立深度的理解這樣子那

我們產品最核心的就是卡片和擺盤比較像是它最重要產物但我們產品最核心的其實是提供一個幫助你學習和研究的工作流也就是說你可以把很多的知識的內容丟到我們產品裡面然後把它打碎成很多很小張的卡片那每個卡片可能是某個知識點某個概念或某個你比較在乎的一個事實這樣子那你有了這些原子化的卡片之後你才可以再把它放到

白板上去理解那你可能同一個卡片你可以在不同的白板中用不同的方式去理解它整個架構這樣為什麼那時候會想到就是卡片相關的事情因為我覺得就是對複雜的問題通常我們所謂的就是一個東西很複雜很困難那我們就要各個擊破就是說我們要先把它拆碎

然後針對每一個點去理解,那針對每個點都理解完了以後我們再重組,然後去看說他們之間的關聯性是什麼,不管這個關聯性是相關的還是時間上的關聯性、空間上的關聯性或是邏輯上的關聯性,就是用這種方式讓這些東西可以很清楚的呈現在面前,我們覺得是對於建立深度理解非常非常重要的一個部分,那這個部分以前通常是發生在大腦中嘛,

有時候我們也可能會拿這張紙在畫來畫去,把這些我們腦中的概念去具象化。但因為你這些紙長期來講也是難以保存,或者說也難以去把同一個東西在不同的紙上去附用。所以我們就覺得說,這個東西你透過電子化的方式,你可以達到更好的效果,更好的長期知識的效果。也就是說你在未來在解決一個問題的時候,你可能可以把一些你以前做過的一些知識卡片再重新拿過來去應用。

我現在聽到這裡的話我在想觀眾可能會有的困惑是這個工具聽起來門檻很高因為並不是大家生活當中有一大堆都要做什麼深度學習啊深度的理解那如果今天是一個陌生觀眾好了他想說我來試試看 Heptabase 要怎麼用你覺得他的第一個這個算是白板好了他可以拿來測試什麼樣子的東西我覺得就測試一個你最在乎的主題這樣那當然

最在乎的主题每个人不一样嘛如果你是一个知识工作者好了比方说像我们有产品有很多人是 project manager 那他们可能就会把自己的 project 去开一个白板然后把各种跟那个 project 有关的 idea 或有关的一些知识点放进去这样而如果你是学生的话那就看你学校在学什么东西就一给那个东西开一个白板

那如果你就是像是可能我媽好了我媽也是大概 60 出頭了她也在用我們的產品那她可能就是有些寫作靈感這樣她就是擺盤就是她想寫的一個主題那她就會把一些自己的靈感丟進去變成卡片去試做這樣

因為你們是有機會看得到大家的後台或者是你們在使用者調查的時候有沒有可能發現說這個人拿來做一個很有趣的應用你們有過這樣子的經驗嗎我們內部是不能看的對 合理的 隱私權的問題我們會有那種 Database Audit 就是說

员工是就除非用户他们客服的时候说要我们去帮他救一些就是处理一些东西他们会给我们的这些 permission 否则我们一般是看不到的但是有些用户他们会去把这种就是他们的笔记分享到网络上

那分享到网路上当然就是有很多不同的 use case 像刚刚讲的学习笔记研究笔记这是最主要大众的那当然还有一些专案类的笔记或是说他们可能有的人在设计一个游戏那游戏里面有很多不同的物件不同规则他们可能会用我们的产品来去做这样的一个 ideation

那也有人就是讀 paper 他們丟了一堆 pdf 文件然後從這些 pdf 文件去抽取很多的 insight 很多的卡片然後一樣就是可以建構一個他對於這些論文或這些東西的理解這樣子我其實剛剛在聽的時候覺得他非常適合拿來做諮商筆記

因为我觉得对很多人来说他尝试智商是为了解开他此生遇到最大的谜题关于他自己的个人经验或者是私人的创伤然后我觉得智商也是每一次你去智商完之后你也需要去做记录那很多时候你会发现很多主题会重复的出现但它可能会是在第一次第十二次跟第二十五次但是如果这些主题它累积重复的够多它就可以整理成你在了解你自己这个复杂的主题上面一个非常重要而且值得深挖继续探索的一个内容然后

然後我們也知道是有人在網路上使用 Aptabase 的時候他是把它拿來當旅遊計畫來使用想問這樣的用法有沒有超出你原本對他的想像有我沒有想到真的嗎對 就是我一開始

因為我們產品會有一些日誌的功能,就是說用戶除了普通的筆記卡片或是我們剛剛講多媒體卡片以外,他也可以創建一些日誌卡片。那我們就發現有用戶他們會用日誌卡片去規劃說每一天的行程,每天要做什麼,以及一些景點的圖片什麼的,然後再把他列入到白板上。我們做了一個工具,我們有一個想像用途,但用戶怎麼用就是他們的選擇。

感覺就是阿滴可能學會了這個之後他就會放棄一個這個更好用 這個可以掉出來就拿這個鼻子 批人這樣子對 好那上次你來我們節目就是聊比較多是你創業前這個 0 到 1 的思考那現在就已經來到創業第三年了我想應該可能某種程度已經處於這個 1 到 10 的階段也就是基本上已經找到了一個可能像 prototype 或是什麼東西然後把它放大這個過程甚至是已經開始獲利然後要再擴大這個過程你覺得有什麼不一樣嗎

我觉得从 0 到 1 跟从 1 到 10 通常我们说这个 1 通常就是在讲 Proper Market Fit 就是说从 0 到 Proper Market Fit 然后 Proper Market Fit 以后要做什么事情这样子那至少在我们 YC 就是我们对 Proper Market Fit 是有比较严格定义的有什么样的定义就是它通常会有几个指标去看

并不是说每个指标都满足了就 PNF 了但是你有 PNF 的话你这指标一定会满足第一个就是我们以前很常讲的就是流程率不管是用户的流程率还是营收的流程率流程率意思就是说假设你这个月有 1000 个用户进来那过了可能一个月两个月或一年两年后还有多少人继续用那或者说这个月有一千个人订阅那过了一年两年或是一个月两个月后还有多少人继续订阅那你会希望这个流程率的曲线最后是一个

平稳的曲线就是说一开始一定最早期的前一个月或前一年流失一定会比较多但最后他会收敛到一个相对平稳的曲线所以流存率要收敛这第一点那第二点就是你的产品是要能盈利的这样子那所以盈利就是说他单位经济是正的你不能一个东西成本是两块钱然后这些成本包含货客成本生产成本这些东西你不能成本是两块钱然后结果你只卖一块钱因为这样的话你规模化的话你就是一直烧钱这样子

所以你必须要是能盈利的那当然对有些公司来讲他们可能会把这些利润重新拿去投入到更高速的成长上就是投入到获取更多用户上所以对有些公司来讲他们可能是亏钱但他亏钱他换来的是那个成长率所以这个某种程度上你还是可以说他是一个可以盈利的公司只是他们没有选择但你要必须是你产品的你这个 business 本身是可以盈利的这样子

那第三个当然就是营收上一定要至少达到一个一定的规模证明你有一个至少足够好的一个初始市场那这个可能在美国大概就是一两百万美元左右的经常性的年营收这样所以通常这三个标准满足了那实际上你还会有一些感受性的这就是我们说的 art 刚刚讲的是比较像是 scientific 的说 ok 你有这几个指标满足的话那你大概就是一个进到一个 pro market fit 的阶段那但是 pro market fit 的关键就在于说就是

你一个公司长期要做得很大或者说要长期能生存的话就是一开始新创就是从 0 到 1 就是你一定要想办法达到 parametric fit 所以大部分新创公司 0 到 1 就是专注在这件事情上那但是 PNF 后这个所谓的 1 到 10 或是 1 到 100 其实很多公司他们就可以有很多不一样的做法不一样的选择这个时候就

很少會有所謂的就是你怎麼樣做是正確的怎麼樣做是錯誤的因為它其實是端看你怎麼去決定你要去做什麼公司而且有時候是看你最後到底有沒有就活下來的對 PNF 後其實很難死了就是 PNF 後基本上就死不了這樣但是 PNF 後有些公司他們可能比方說我們以前可能 10 年代那段時間的就是很多獨角獸公司好了他們可能就是追求這種

BladeScale 闪电扩张然后最后追求尽快的 IPO 这样那有些公司他们可能会觉得说到一个程度的时候他们就可能跟别人合并或是卖掉卖给比较大的企业这样子那也有些公司可能就是做一个 Lifestyle Business 就是每年继续盈利然后每年就公司稳稳的这样运转这样子那所以每家公司他们的就是路线就会不太一样那我觉得这是 PNF 就是 0 到 1 结束之后就是

对创业者来讲会是一个还蛮关键的时机点就是说你到底想要经营什么样的公司你公司未来的方向会是什么这样那你目前觉得是怎么样你选的道路是什么因为对我们公司来讲我们创这家公司其实最核心就是想解决一个问题嘛

就是我們想要讓任何人都能對任何事情建立深度理解所以我們的產品其實本身就是為了幫助人們學習幫助人們研究複雜主題而生了一個產品這樣那所以我們還是會比較著重在整個產品的研發上說我們這個產品現在到底在這個目標上

做得多好了就是有 100 分的嘛有 90 分的嘛有 80 分的嘛那后面就是天花板有多高那我们后面还有哪些东西可以 fill 所以我们其实现在大部分时间都还是把整个资源放在各式各样的产品研发上让产品可以更加的去接近去达成这个目标那志祺我很好奇你自己也算是创业家嘛那你在创业之前创业之后你走过从 0 到 1 从 1 到 10 的这条路上你觉得你对于创业这件事情的想法有什么改变吗跟

从一到十的这个目标你从一开始就很清楚吗还是在过程中其实你有修正过很多次没有因为我一开始开公司的时候只是想要做一个小小的工作室真的对啊那时候就只是觉得说可以直接按子然后就做了然后做了之后才发现怎么人好像变很多那时候我们很快第一年就到十几个人

那真的很快欸對 超級快因為接案其實就是現金流來的很快的一個案子所以做一做就發現好多事情要補我對人資 對於財務對於你知道公司各種系統都搞不太清楚然後才開始學然後就發現自己很廢所以我覺得一開始沒有什麼想像欸就是但是現在我覺得去想的話會

更覺得個人能力跟團隊之間的差異吧就以前我會是一個比較單打獨鬥型的人就我一個人可以解決很多事所以我創業了然後我覺得我一個人很多工反正就可以做完但現在就會比較去想說好那這個東西最後不會是我做我一定要把它交出去不然它也不能夠成功

所以他的流程大概長怎麼樣他要有那幾個角色可能他是一個齒輪那齒輪跟齒輪之間要有你知道有一個感知就讓他可以互相推動那這個推動的能夠很久嗎我要怎麼樣在兩年後三年後是對的然後他可以修正就會去想比較多這種奇怪的事情那我們拉回來好了就是我們在你的網誌其實你有看到就是分享說這個你在這個階段要做出一個正確的決策似乎變得越來越困難

就是你是怎么样想这个问题的为什么正确决定变困难就像刚刚讲的就是说第一个是你规模变大了不管是用户的规模变大或是团队的规模变大那只要你规模变大你就一定会遇到那些规模变大的时候会遇到那些问题比方说是用户他们的意见很重要但是你会发现新的用户在意的事情跟既有的老用户或是说 power user 在乎的事情就不太一样

因为真的变大就是有点分众的概念然后你要怎么样决定你这个东西是为哪些人服务的很难对然后或者说员工团队规模变大的时候新的员工他们可能从其他公司来那他们有他们以前的一些流程或文化那么既有的员工也有他们习惯流程文化那我们要怎么样去把这些东西整合起来所以这些我觉得就是无法避免的就是规模化一定会遇到的事情

就即便我們現在也不算是真正的規模化但是只要你可能人數 double 或什麼用戶 triple 就是兩倍三倍的時候你不斷的就要去適應去調整這些過程這讓我很好奇就是我最近剛好在看巴貝特一些書然後他裡面就講到說在遇到很多這種不同的資訊加入的時候你要有一個好的決策的架構來確保你最後可以做出一個對的決策那你這個決策架構是怎麼長的我最後就還是回歸到說就是我想做什麼樣的公司然後我們公司要解決什麼樣的問題

那比方说以用户来讲好了就是对就是这些用户有这么多我们有这么多用户那到底哪些用户他们在用我们成名解决的问题是 align to 我们公司要解决那个问题的那我们可能就会优先去 prioritize 这些用户的意见这样那或者说像以员工来讲好了呃员工的话员工是比较特别啦因为他就是我们之前有之前的就是工作流程嘛 0 到 1 的阶段工作流程但我们现在人数变多的时候那我们要去想说哎在变多的情况下有没有什么新的流程

就是可以让我们公司更快的去达到我们现在要达到目标就从 0 到 1 它可能是 PNF 但可能现在我们就有更多的时间可以去做一些产品的创新的那要针对这个创新去重新去设计这个流程来让我们的创新更容易发生那你在这个过程当中你有觉得哪一块是这个用户提的这个想法或者他这个需求其实也蛮不错的但是没办法我必须把它舍弃掉有没有像这样子的东西当然是有不少

你有没有一个举例可以跟大家分享就是我们在乎的是学习和研究我们在乎用户可以让我们产品所以旅程就被丢掉了也不是说因为我们从一开始就没有去 optimize 那一个 use case 但对啊用户总是会提出一些很有趣的一些想法那有些想法可能

跟比方說就是任務管理有關有些想法可能跟一些創作的方式有關這樣那當然我們都會把這些東西 track 後來還會 track 起來嘛就是說有這批用戶他們提了這些想法這樣那並不是說這些想法我們就完全不會去碰但是就是我們還是會有一個優先級數就是我們要先把我們的核心的這一個學習和研究這個體驗做的

做得夠好 做得夠領先那我們再去考慮說在這個基礎之上去稍微 Tune 一些小小的功能來讓他們那邊的體驗可以更舒服這樣那你要怎麼定義這個領先領先的話最主要還是我覺得就是門心自問就是因為我自己就非常常用我們產品在學東西那所以比方說我丟好幾篇 paper 或是我弄好幾個影片進來或者說我從網路上抓一些文章下來然後開始

用我們產品研究的時候我就會一直去邊研究然後邊記錄說就這邊那邊就這裡有一些我覺得每次在做這種事情的時候都會他會一直切換嘛自己有點像是旁觀者的角度就讓它出去然後再拉回來你會覺得這個東西很痛快還是你會覺得欸這其實蠻好玩的我覺得蠻好玩的你覺得蠻好玩的對對對只是事情永遠做不完因為你永遠都會看到那種可以更好的地方這樣對

那這樣子 所以你最後還是回到自己的 算是自己的感知的部分你不會去定義什麼樣的指標就是我覺得這個東西好不好用會不會有別的東西更好用導致我去離開了原本的這樣環境其實還好就是說 主要是自己的感知是一部分嘛那用戶的回報也是一部分就用戶會從我們的客服系統給非常非常多的建議那我們後面會把它變成是一個算是數據化的一個很大的一個表格這樣

那我就可以从里面去做各种 filter 去看就是到底用户讲了什么东西然后当然有时候用户就跟我们提到说你可以去参考另外一个产品他在这一件事情做得特别好那么当然一定会去看我自己很好奇就是感觉想要创业的人都是有那种勇于冒险的特质但是像现在进入到比较需要比如专注在经营扩大或者是稳定的时候你们会曾经有觉得适应不良的情况吗

就像刚刚讲的就是规模化过程你一定会有些时候会需要把更多的精力放在经营本身让整个流程顺的那但是对我们来讲就是说就是我们尽快把它处理好然后尽快的回头就是在专心在产品上面这样我觉得因为我觉得真的说你说冒险挑战其实最重要还是就是你产品能不能不断的超越它原本的样子这样

就是我们现在可能这个产品它有一个利基市场然后有很多用户他们很喜欢这个产品但我们要怎么样让产品再变得更上一层楼而且可能在两三年后如果看两三年后的产品和现在的产品或现在再看两三年前的产品你会感觉到说哇它真的有一个很大的飞跃那这里面其实就是有很多的实验要去做并不是每个实验都会成功但是就不断地在这种地方去

說冒險嗎也不完全是冒險但是去 double down 你的投資我覺得一直都是公司長期競爭力裡面非常關鍵的一件事情我自己好像也是類似的想法就這樣子比較好玩吧就要一直改然後那個不適應就會覺得如果我適應了那現在跟以前都長一樣不是

很無聊嗎我每次都看到假設說回顧一年前的自己我發現過去的自己如果不是一個笨蛋的話好像會覺得那我這半年或這一年是不是白活了有點像是現在這個環境我之前 Alan 來的時候其實不是長這個樣子對然後我就覺得這個我們應該要改一點的吧只要改一點點然後它就累積久了很多可能十個改變之後它看起來就有點像是一個飛躍性的大改所以我會蠻喜歡做這種小小的實驗但每次實驗一定會有一點點適應不了

或者是團隊也會適應不了那你就要想辦法跟大家解釋就是你看到了什麼所以我應該要做什麼然後我們最後要帶給大家體驗到底是什麼我覺得它是一個自己跟團隊然後還有觀眾之間的一個角力的平衡但是你終究你會有一個自己心中想要的那個樣子會影響大家想要一起前進的那現在在目前就一到十的階段你覺得你最重視跟專注的是什麼目標

就在产品面上的话我们现在有三个核心的方向就第一个就是既有产品的体验不管是一些新的功能手机版然后比方说手写啊或者说那种间歇式学习就间歇式记忆的一些功能就是我们用户很常 request 的东西我们就是一个一个去补这样子

那第二個的話比較偏向是協助和溝通也就是說我們認為說我們產品不能只是說一個人去研究和學習一個主題我們也希望能讓很多個人可以共同的研究和學習一個主題所以這個是一個現在非常重要的方向應該在明年 2025 的

年初的时候我们就会开始有一些这方面的功能推出第三个的话主要就是 AI 相关的整合和导入就像刚刚讲的因为现在 AI 的技术突飞猛进其实我们可以发现一些之前一些我们用户会认为很有价值的事情

他們可能在以前成本就是在去年的時候成本還沒有辦法我們還沒有辦法用一個合理的成本去提供給用戶但逐漸的所以這些例如大家覺得重要的事情是什麼就是比方說你想要在一個產品裡面因為我們剛剛講嘛用戶會導入很多資料你想要在這個產品裡面對這些資料

去做各式各樣的分析,或是提出各式各樣的問題,提問題可能只是一個,那另外一個可能比方說,你想像你有一份幾百頁的文件,那你要怎麼樣去從裡面 extract 出這個文件裡面所有重要的 entity,然後把他們的之間關聯性在版本上釐清之類的。又或者說你有一個三四個小時的訪談影片,那你要怎麼樣去從這些影片裡面去提出重要的 insight,

很多很多的这种就是你现在看来讲现在算力成本就是不可能在这种 10 美元的订阅下去提供这样的服务但你可以预期说在未来这个成本随着他们急剧下降的时候那我们产品现在先把这些基础做好那等成本到我们可以提供这个服务的时候我们就可以随时把它打开然后用户就可以去更好的去理解各式各样的知识的内容

我想要问一下渐进式学习是什么意思渐进式学习它叫 space repetition 它基本上就是说用户可能可以建立一些所谓的 flashcardflashcard 中文好像叫闪卡这样子那它就可以按照一定的一个频率去让用户可以去复习它然后来加深他们对这些关键知识点的记忆

那这是我们产品目前没有的功能但我们从产品推出到现在其实收到蛮多用户的 request 特别是那些要准备大量的考试或者是的用户他们就蛮需要这类的功能哦对耶如果今天他是在学习一个东西然后他是要最后要考试是他的算是他的 KPI 好了先用这样的检验的话的确有一个系统就帮你把这边的知识全部整理起来然后开始有点像是随机出很多很多的课堂的随机测验然后就开始弄是有是有帮助的嗯

我已经离开考试太久了我没想到这蛮有趣的想说我需要谁突然来考考我考试不一定啦就是有些人在准备的可能是研究所的考试大学的考试都有这样然后或者说有些可能是那种国考啊律师资格考啊就是这些比较专业性质的考试都有那另外我很好奇就是就在现在这个 AI 的浪潮当中有些人就会讲说可能软体公司啊或新创公司他们其实会遇到一些冲击就你们公司是有遇到相关的冲击的

还是都是看到就比较正向的部分我觉得这边可以先大概讲一下就是现在我们可能比方说矽谷是怎么去看待这些 AI 的浪潮的就我觉得大家现在主流公认的观点就是说生成式 AI 正在带来一个新的一个 platform shift 就是平台转移

所以 platformship 就是说有某一项技术的出现从市场的底层上根本上去改变了许多市场上的公司他们的产品他们的服务未来的不管是产品模式商业模式或是有点像之前的 app 就跑出来的时候对对对就是 platformship 这样子

通常在科技業這種 Platform shift 的週期,大概就是可能 10 年左右會有一個 Platform shift。比方說我們可能在我小時候就是 PC 嘛,就是個人電腦,Microsoft 和 Apple 他們推出的這些個人電腦帶來的一波 Platform shift。然後再過來是 Internet,就是網路的出現。然後再過來是可能像是 Mobile 和 Cloud,就是智慧型手機跟雲端運算這樣,那現在就是城城市 AI。

那 platformship 它的特點在於說就是第一個一定會很 hype 就是說市場上會有很多很多人下去做而且有時候會 overhypeoverhype 就有 bubble 比方說你看 internet 時期就是.com 泡沫就是說太多人去做這些.com 的公司但沒有人 figure out 那個商業模式要怎麼做這樣那其實我覺得

這一定會的,就是說大家知道有一個革命系技術,很多人可能沒想清楚就下去做了所以我覺得像去年的時候,其實市場上也是蠻 hype 的,有很多的 AI 公司然後你應該會預期蠻多會 fail 的但同時就是說,那些跨世代的公司所謂的 generational company 通常也都會在 platform shift 去做

誕生比方說在 Internet 時代好了即便有打抗泡沫但我們也同時看到像是 Google 像是 Amazon 像是 Facebook 這些現在的科技巨頭就是在那一次的 platformship 發生的那可能在 Mobile 時代好了我們有像是那種所謂的 Instagram 或者是 Uber、Ambienb 這些 Mobile App 就是在那個時代誕生的嘛

那 Cloud Computing 也是我们现在用的这些什么 DropboxFigmaZoom 就是这些东西就基本上就是他们会能成功也很大是缘故是仰赖于就是这些 Cloud Computing 的技术的成熟然后让很多新商都可以在上面去 Build 的东西所以它就是一体两面它很 Hype 然后有时候会有 Bubble 但同时 Generational Company 一定就是在这种时候出现这也是为什么现在市场上会这么热的一个原因这样那你们有遇到什么样的冲击吗还是

还是也还好我觉得最主要的话因为我们是比较偏生产力工具的公司那我觉得这边就可以谈到说就是这个 platform 去对不同类型的公司他们的因素因为说这个 platform 去主要对产品造成什么样的影响就是你可以发现这个技术的出现它基本上就是两个产品趋势就第一个就是它要么是提高生产力要么是取代生产力

大概就是这两种就比方说提高生产力就是说我做一个产品然后我让一个 knowledge worker 可以更好的去完成他的 knowledge work 工程师他就可以扣过就是 Copilot 帮他写扣然后就好变得更强了对对对就是这一种所以我们公司其实比较像是受益者因为我们是生产力

做生产力的公司所以说我们可以利用很多这些工具来帮助我们的用户获得更高的生产力这样那这种类型的产品它现在最大的一个所谓的这个时代的产品的趋势会比较像是说你要能更好地去预测用户现在的意图然后去根据你去理解用户身处的脉络是什么然后去生成相对应的内容然后再让用户去修改或是选择这些内容像我们刚刚讲的嘛你说 Copilot 或是 Cursor 他们就是

寫 code 在用的那他們就是可以讓你去了解說工程師到底現在想做什麼事情然後提供這些 code 來讓工程師只要去 applyapply and typeand type 他就可以自動完成很多任務那你就大幅加速了生產力那可能另外一個比較有名的是 Property 就做 search engine 的這種

就是你问一个问题以后他不只给你答案给你 reference 他还去给你就是帮你去提供一些你接下来可能会问的问题所以你就是只要一直点一直点一直点你就可以一直去 explore 一个 topic 这样子那这件事情会影响到人才的招募吗会有例如说有些人才可能他们就去了更 AI 的公司或者是呃

反而是在資金方面因為有的時候是會需要投資我不太確定你們有沒有被投資但我有遇過的經驗是有些朋友他們可能過去做軟體他們現在剛好有沒有要找下一輪那就發現說現在的創投大約就基本上不想要投原本是在做軟體的東西了那你怎麼看這樣的事情

我自己是觉得还好因为我觉得所有的软体公司都会经历这样的转型所以其实也没有所谓的就是你当然会有一些公司专门做 AI 服务然后也会有些公司是现在做既有的软体服务但他这些既有软体服务他一定还是要在这个 platform shift 下做一些方向上的调整至少像我们今年的大概七八月的时候刚完成一次招聘这样那也是一样就是很多的新的员工他们在面试的时候也就会问到说那么公司未来的整个 AI 的策略是什么然后等等等等那我们就会去

讓他們知道說 ok 這個東西在這個 platformship 下未來這個產品的長相會是變什麼樣那我很好奇你怎麼看就是 AI 如何影響現在的就業市場

這就是像剛剛講的就是因為它有兩個趨勢嘛就是提高生產力和取代生產力所以會影響就會市場就是取代生產力這件事情就是說現在 YC 投了非常非常多公司都是所謂的 vertical sauce agent 這樣子就是說你在很多的垂直領域下你都可以

去利用比较新的技术不管是多模态或是说更长的 context window 等等的去打造一些 AI agent 然后这些 AI agent 他们专门就是擅长做某个领域的事情比方说他可能是大家最常听到就是客服他客服可以做得非常好或者说他可能可以写程式写得非常好他做设计可以做得非常好这样他可以做不同领域的很多的事情可能他也可以做法律相关的咨询可以做医学相关的东西这样那这些 AI agent

基本上他们的出现就等于是市场上会多了一批所谓的可以直接用低成本取得的生产力来解决很多就是企业主可能会平常需要解决的问题那我觉得这一定会对于某一些相对来讲比较 repetitive 比较重复性的那些工作上一定会造成冲击这样子或者说相对可能以前写程式的时候大家可能很在乎写程式的那些写扣能力但现在可能大家更在乎的就是你

在比較 high level 上去做規劃和 planning 的這個能力因為那些實際上 code 很多都已經是 AI 寫的就像我們公司我們就是非常非常多 code 現在都是 AI 寫出來的但我們就會去規劃說我們要怎麼去寫什麼東西這樣我們會需要仰賴這種更高 level 的一個 planning 那你要說對就業市場具體是影響這個就是經濟學家的問題

那通常比較樂觀的科技公司他們的主流說法就是說新的技術出現影響就會失常這在歷史上發生非常多次的像是 printing press 發生 internet 發生其實很多工作確實因為這樣而消失但是總是我們會有新的工作讓我們可以去做因為新的技術 enable 新的可能性而新的可能性就會產生很多新的工作機會

那但是对于不同族群的人或者说不同工作类型的人哪些人有办法去适应性的工作哪些人可能比较没有能力去适应性的工作这个其实就是一个需要很多经济学分析你才能真的知道的问题比方说你可能有某个学历的人他们可能特别容易去适应这种新形态工作但是有些人可能就是可能就不一定能那么适应我这没想到的是我有一个拍片的朋友

他說現在大家會講講講說這個東西很慘但是他就想到他那個時候他一開始是還在學卡帶式的拍片然後拍片完之後出來馬上就這個東西就沒了然後他在當下想那我該怎麼辦然後我現在就回想到自己的教育系統我覺得這有點八股的問題就是我們教育系統現在可能大家還是在學 Photoshop 而且還是在學很古早的 Photoshop 的使用或 AI 的使用然後但是他們出來的那個瞬間因為 AI 進步的速度實在是太快了基本上一年我們可能會翻個一倍到兩倍

以上然後到時候他就一直翻那個時候他過去的這些積累到底要積累在什麼樣的地方才會讓他那個時候可以去銜接呢還是其實就是基本上銜接不了你要重新開始選你會怎麼樣看待像這樣的問題我覺得

未來就是一個你需要花非常多時間去學新東西的時代但同時未來也是一個最容易學新東西的時代就有點像是 YouTube 的出現讓我們很容易學到很多奇怪的知識因為它就有很多實際的影片然後我最近試了 Vision Pro 就是 Apple 找我去試 Vision Pro 然後我就試了之後就覺得哇這個更多維度包含了空間的運算的時候你要學很多

手工相關的事情或者是技術相關的事情也會變得更加真實跟好玩所以我覺得這個可能真的會改變蠻多事情而且如果你剛剛講說是

是更容易学东西的时代其实又回到 Helptabase 就帮助你学更多的事情对哦好有趣哦听说那个 OpenAI 是起源自 YC 的一个研究计划那很好奇是这个研究计划是怎么样造就现在的深层式 AI 的时代就是中间有没有发生过哪些你觉得是非常关键的事件这个

其實我覺得這整個深層次 AI 會發生大概就是可以追溯到 10 年前就在 2014 年的時候就它其實是你可以把它視為是我們的新創的世界新創這些圈子跟 AI 的學術界的一個碰撞在過去 10 年的一個碰撞這樣 2014 年其實是一個蠻關鍵的年份因為他是 San Almond 就任 San Almond 就是 OpenAI 現在的 CEO 那他以前是 YC 的 President YC 的總裁

YC 就是我們的創業加速器,那他在 2014 年的時候接棒 Paul Graham 成為新任的 YC President,然後一直當到 2019 年,當了五年的時間。那 2014 年同時也是 AI 領域有一個 attention 的機制,首次被提出來的一個時間。那這個 attention 的機制就是到後來影響了 Transformer 架構,影響了這些 GPT 的演進這樣。

大概我們可以先看一下就是新創這邊發生什麼事情這畢竟是我自己比較熟悉的領域就是說 San Almond 他當上任 YC 的 President 的時候他一個蠻關鍵的一個舉措就是他成立了 YC Research 這一個

Program Research 就是研究這樣那大家一般聽到 YC Y Combinator 都是先想到它的 Accelerator 這個 Program 一個加速器的 Program 那加速器就是說你有很多的 Founder 你有很多創業者像我們這樣的創業者我們可以去申請然後我們可以去獲得投資然後去成長然後裡面它就會孵化出很多 Building Dollar Company 很多 Generational Company 這樣子像是那些什麼 Airbnb Dropbox 這些東西都是在 YC 的 Accelerator Program 裡面去孵化出來的

但一個很關鍵的點就是說到底為什麼 YC 能孵化出這麼多就是 Billion Dollar Company 那除了他們的方法論本身是 work 的以外其實另外一點就是說

因為市場上有 Platform Shift,就我們前面講的有一些新的技術的出現然後創業者 identify 這個技術造成了 Platform Shift 而這些新的技術的出現創造了一個原本不存在但是後來變得可能是一個 trillion dollar market 那你要有這樣的一個 trillion dollar market 從零開始出現你才能在上面有很多的 billion dollar company 從零開始成長所以 YC 為什麼他們只招應該說幾乎只招這種 technical 的就有技術背景的 co-founder 就是因為有技術背景的 co-founder 他們

往往是最早去識別這種 Technological Platform Shift 的人,同時也是最能、最知道怎麼去使用這些新的技術去做產品的人。那 Platform Shift 這些技術到底又是怎麼被創造的呢?就很多其實都是先從研究出發,就是先在某一個 Research Lab 裡面被發展出來的。所以 San Amato 當時他其實就,

算是回顾了过去历史中一些很关键的一些 platformship 的技术他们都是从什么样的 lab 出来那最有名的可能就是像是 Bell Labs 就贝尔实验室或是 Xerox PARC 那这两个这两个 labBell Labs 是在 1925 年成立的对他超级早他算是

跟電信相關然後弄出來的東西已經 100 年了這樣對然後它一開始成立是 AT&T 去 Found 的 AT&T 和另外一家就是電子公司去 Found 的一個 Lab 那這個 Lab 後來就在這 100 年歷史裡面它其實有非常多革新的技術像是電晶體就沒有電晶體我們就沒有現在計算機產業嘛那或是說像是 UNIX 系統像是 C 語言

這些東西都是從 BuildLab 出來的,它基本上奠定了整個計算機產業的基礎。或是 Xerox PARC,Xerox PARC 是 1970 年代的時候被 Xerox 這家公司去 Found 了一個 Lab。一樣這個 Lab 出了很多很革命性的技術,像是 GUI,像是 Ethernet。

或是像是 small talk of the programming,就是物線導向程式語言。那這些東西基本上就是整個 PC 時代和 Internet 時代的基礎。就是說你沒有 GUI 你就沒有個人電腦時代嘛,因為它是圖像介面嘛。或者說你沒有 Ethernet,你後面這個 Internet 就很難發生這樣。那所以,

你要有这些 lab 去做就是去在有很前端的研究对 做很前端的研究并且就是不只是做很前端的研究而且是你能没有那种新创要成长要生存的压力你要有一个人一直灌钱然后这个东西是他在算是某种程度的垄断地位就是因为我会一直赚钱然后我某种程度愿意

達到一個算是一個共識吧對對對我就一直給你反正你就繼續做沒關係的對那當然現代也是有像是 GoogleGoogle 也會去放著什麼 Google BrainDeepMind 或是 Microsoft 有他們的 research 這樣子但是很多時候你會發現在歷史上那一些 lab 他們的這些技術往往不是被這些 lab commercialize 是被創業者發現之後他們去 commercialize 這樣子

那為什麼?因為很多大公司他們沒有這樣的一個激勵的動機沒有這樣的 incentive 去 comment 這些東西所以你剛剛講說他 2014 年有這件事情就是因為他看到這樣的事情他說研究在這邊然後有一群技術力在這邊我要把這兩群裝在一起然後他們就自己爆爆爆爆爆出來沒有比較關鍵的應該是說他認為我們不能只放的創業者我們也要放的那些未來很有機會改變世界的 research

所以其實 YC Research 他一開始的時候放的應該放的五個 Research Project 就是包含 OpenAI 就是一個然後 UBI 是另外一個然後這兩個比較有名那其他還有像是 HARC 就是 Human Advancement Research Center 這主要在做人機互動的就是

他里面的那个首席英文 Brad Vitter 后来 Spindolf 出了一个叫 Dynamic Land Project 其实我以前大学时候最感兴趣的一个 project 这样然后其他还有像是 New City 就是做城市的跟 Universal Healthcare 做健保的这样子所以那时候放了五个 research project 那后面就是像 New City 或 Universal Healthcare 这个我就没有那么熟

然後 Hark 其實是我最熟的但是 OpenAI 就是現在最有名的一個就是說專門就是在研究怎麼樣打造通用人工智慧的一個 Lab 這樣所以基本上就是砸錢然後跟他們說就是你們就專心做研究這樣子那以後如果研究有什麼好的成果的話我們可以再讓就是 YC founder 就是這些 YC 的創業者可以去利用這些研究成果去做可以對世界產生正面影響的產品這樣

对,YC Research 的起源大概是这样,就是说你要能做出,就是要有这些新的 industry 的出现,你最源头其实还是技术的研究和技术的创新。那这边我觉得一个很有趣的地方就是,其实 Sandalman 他当时的那个 vision 的轮廓已经,我觉得已经蛮清楚了,就是说,因为我以前在大学的时候应该是,

17 年的時候那時候有看 Stanford 的一個線上課程在講 Base Scaling 的線上課程然後這門課裡面就是有學生問 Stanford 們說就是如果要再選一個創業主題的話那你會選什麼創業主題然後他說就是他第一個會選的一定是 AGI 那第二個是能源

那為什麼因為這兩個東西 綁在一起就是 AI 或是能源是一個如果你能很低成本的提供給世界上的很多人的話那你基本上他是能對世界比較貧窮的那一半人口產生最大的生活品質提高改善最多的兩個題目所以你看到 SendOmen 你就看到說

後來離開 YC 就是專門就是要全職去投入 OpenAI 然後另外他也花了很多自掏腰包花很多錢去放的 UBI 的 project 然後投資去投資就去做很多 UBI 的實驗然後同時他自己也就是投資了好幾個核能公司像是做核融合的黑聯或者說做核分裂的 Oklow

雖然合融合還是一個物理學商轉三大難題,我們也不知道什麼時候會看到,但是你大概可以感覺到他的願景其實就有點像是說他希望未來我們可以有源源不絕的乾淨的能源去 power 很多很多的 AI,然後讓這些 AI 可以以很低成本的價格讓任何人都可以去使用。

那因为人们都可以使用 AI 而且 AI 可以取代非常多生产力那人们其实也不一定需要工作那这些 AI 公司最后的钱再可能用像是 UBI 的这样的一个 model 重新分派给就是重新分发回去让这些人可以去做各式各样的他们想做研究或者创作等等等等那当然是一个就是很有野心的愿景然后也是一个很危险的愿景那你觉得还有在这条道路上面吗我觉得现在就是

蠻明顯就是在這條道路上只是到底會 到底會就是因為他們有很多衝突嘛不然是 OpenAI 就是大家在離開的這件事情也有很多人討論然後或者是最近想要阻止他就是說你現在你其實是個慈善機構但是你這個慈善機構看起來好像沒有在做真的在慈善機構的狀態但是就有些相關的八卦你會怎麼樣看這些討論

我覺得從非盈利轉盈利這個是基本上不可避免的就是說因為現在你這種 AI 的競爭你就是需要算力那算力成本就非常非常大所以你基本上你在 non profit 的情況下你是沒有辦法有足夠資金去 fund 的這些東西的以現在這個 AI 的 landscape 來講

那至於說就是他們到底是不是維持著最初的願景在做事我是覺得是的就是我現在的觀點還是覺得就是他們目標就是要用很低的成本讓 AI 盡可能讓這世界上越來越多人能去使用它然後並且去想辦法去解決一些關鍵的比方說能源問題來把這些東西

就是調降這樣我認為在這一條路上就是他們做的事情是跟我一開始想像是一樣的這樣子那但是就是比較會讓人擔心的就是權力都集中在這樣的一個機構的情況下的時候你到底你最後會不會沉默這就是大家會比較擔心的一件事情這有點像是 1 比 99 的概念就最後我們就會有一個人他掌握了一個技術然後他就壟斷了很多很多的事情然後這個高科技的巨頭可能會變化所有的人然後這件事情

好像某種程度蠻有可能會發生的對 但比較好的事情是就是 AI 它是一個現在是有點像是有很多家公司至少市場上 major player 有五個 OpenAI Anthropic GoogleXAI 還有 Meta 所以說它其實是一個相對有一個競爭平衡的一個狀態那這樣的狀態就比較

至少有在競爭一定是對消費者來講是好的事情我想問一下因為你剛剛有提到說這是一個他很大的終極的野心但是同時也是一個很危險的野心所以你剛剛講的這種權力就是完全極權這件事情就是你指的危險這件事情還是你有其他你覺得也同樣很 concern 的事情

我覺得比較危險的就是說,很多權力岸資源都集中在一個機構,這件事情一定是危險的。但同時我覺得就是說,如果你的領導人本身真的知道自己在做什麼,而且有足夠多的研究案數據能說出什麼樣的 policy 是好的 policy,來可以真的去達到這樣的願景的話,那這確實是一個

蠻讓人興奮的一個未來這樣那你覺得可信任嗎我覺得很多人在討論這種極端狀況的時候都是在想說那這個人是現在可信任但我們要怎麼樣確保他長期可信任我覺得重點不是我們信不信任他而是我們有沒有足夠的監管力道對足夠的監管力道確保說整個不管是 AI 的開發可是要怎麼監管假如他已經進到了一個 Global 的狀態他要怎麼監管因為過去的監管通常是來自於一個在地的政府

像是比方说 AI 安全性来讲好了,我们现在就会有所谓的不同 level 的评级这样子。那我们任何一个新的 model 推出的时候都会去看说,比方说它到 level3 了吗?它到 level4 了吗?还是它到 level2?那不同 level 他们可能会有不同的标准,比方说可能到某个 level 的时候,它看来就是你的所谓的 CBRN risk,就是 chemical,然后 biology。

然後 radiation 或是 nuclear 這些東西能不能讓非政府的那些 non-state actors 有沒有辦法透過這些 AI model 去做出這種有 CBRN 風險的事情那這可能就是如果這個 model 有這樣的風險的話那我們在 release 的時候就會需要去做一些調整這樣子

你自己渴望看到 GAI 相關就是比較好的這個願景我覺得世界層面的願景或者是你個人生活當中的這些願景你會想像它可以在你的生活當中有什麼樣一般大眾他目前沒有辦法想像得到的這種適用嗎或應用嗎我覺得也不要說應用就是想像一下你有任何問題你都可以問

比所有工程师都聪明所有人类都聪明所有人类都聪明的一个 model 我觉得这件事情是一件很了不起的事情就是你可以问爱因斯坦物理学你可以问霍金跟黑洞有关的问题你可以问陶泽轩任何数学的问题就是我觉得光是想象这件事情就是它有无限的可能性这样假设我们可以不只是问爱因斯坦问题而是我们可以复活爱因斯坦让他 24 小时不停值得做研究这件事情同样让你兴奋吗

对就是我们至少因为我以前是读物理出身的嘛所以我对于说就是像这样的人工智慧

他能幫助我們多大的去拓展科學邊界就是一定是最感興趣的這就是我最感興趣的一個議題但會不會有人想到 24 小時就是愛因斯坦都在做研究那我還做個屁啊因為不是有句話是這樣比你聰明的人比你更努力不是你會覺得很崩潰嗎可是我覺得有時候就不是那個成果吧而是你在成長的過程當中就覺得蠻開心的

我不知道我會這樣講到你了而且世界上絕大多數人都不是最聰明的人嘛因為最聰明的人永遠就只有幾個嘛但是我們還是能很開心的活著然後去享受那些最聰明的人所研究出來的成果或者去透過這個方式去更加理解世界我覺得本身

對 我覺得他是已經現在本來就是這樣的世界只是說未來最聰明的人的還是不是人類還是 或者說是不是 AI 這個可能會有這樣的一個差別但我現在在用就是譬如說我在用 AI 的時候我在跟他對話的時候我最害怕的就是我無法我可能已經不比他聰明了所以我其實無法辨認他說的話是不是真的那這樣我以後再擴張這個學習的時候我要怎麼確認他給我這個愛因斯坦的回答他真的是一個對的事情呢這個的話

Verification 就是你說的這個有點像是 hallucination 的問題嘛 AI 有時候會胡言亂語那 hallucination 問題是一個技術問題然後這個問題本身是可以被解決的

第二個就是說就算我們假設我們不知道 AI 有沒有 hallucinate 我們其實也還是科學上還是有非常多的方式比方說數學上我們可以去 formalize 一些東西然後去 verify 一個證明是正確或錯誤的我覺得這些東西就是也是一些研究會研究處理的事情因為就是在現在其實也發生就是你問一個比你聰明的人你不知道他是不是在胡亂其實也在發生那只是把同樣的方法再拿回去對待一模一樣的事情對 而且現在那個你以為比你聰明的人他胡亂你他還把他錄成 Podcast 非常有可能

然後對 剛剛講的是 SendAumen 嘛就是說就是他總之他就做了 YC Research 然後做 OpenAI 然後 Found OpenAI 這樣那其實 OpenAI 整個使命就是要打造那種可以讓任何人都可以去比較低成本去使用的這些 AGI 這樣那另一方面就是沒講到的是學術界這邊就是學術界這邊在過去十年內最關鍵的一個

一個突破就是我們剛剛有講到他們在 2014 年的時候在機器翻譯的問題上發現了一個 attention 的機制然後一直到 2017 年的時候就是

Google Brand 他們發了一篇叫做 Attention is all you need a paper 那這篇 paper 它在處理的是機器翻譯裡面的那個 sequence to sequence 的問題所謂 sequence to sequence 就是說我有一個 input sequence 我要把它產生一個 output sequence 舉例來講就是我今天要中文翻英文我覺得 input 是一個中文 sequence output 是一個英文 sequence 或者說我 input 是一個問題的 sequence 然後 output 是一個答案的 sequence 這樣這種 sequence to sequence 的問題

那傳統的 Sequence to Sequence 的問題通常我們的集體學習處理的方式就是我們要有一個 Encoder 一個 DecoderEncoder 就是編碼器 Decoder 是解碼器那我們把這個 Import SequenceEncode 成一個東西然後再用 Decoder 去把這個東西解碼成 Opera Sequence

就傳統的做法是這樣那以前就是在 2017 年以前就是主流的這種編碼器解碼器的架構就是這些編碼器和解碼器都是用一種叫 RNN 的東西去做的那但是 RNN 就是有蠻多缺點像是訓練時間要非常長因為他要一個 Token 一個 Token 去算那另外一個可能是他當你這個 Sequence 很長的時候就是效果就會不好因為你沒有辦法很好去注意到就是一個 Token 跟其他 Token 之間的關係這樣

那 Attention Insolvency 它这篇论文它的一个关键的发现就是说我其实可以把这些 RNN 这些东西都丢掉我只要用刚刚讲的 Attention 的机制去实作这个 Encoder Decoder 的架构我就可以很好的执行这一些 Sequence to Sequence 的问题而且它可以就是

用在很多不同的場景上,這樣。所以後來就是 openAI,就是 Sandalman openAI,他們其實原本剛剛在做 AGI 的時候都在做比較像是強化式學習的一些研究,reinforcement 的研究。但是就是這個 Attention is all you need 這篇論文出來之後,就是他們就開始

去用這個 Transformer Decoder 然後去開始嘗試說那我拿很多 Internet 的資料去訓練這個模型然後他們發現說哇 沒有想到效果這麼好對對對 就是最關鍵的事情是說第一個 GPD 它出來的時候它的特徵在於說

他就拿那個 Decoder 去訓練嘛那 Decoder 他的訓練方式其實就是所謂的預測下一個 Token 或是我們比較直觀一點就是預測下一個字就是他一直逼近然後這個解大概在吧吧吧吧要往下跑就是給你一個句子然後要你預測他下一個字會是什麼然後再另外一個句子要你預測他下一個字會是什麼就是 Decoder 他的訓練方式主要就是這樣那當時 OpenAI 他們發現的事情就透過第一個 GPT 發現的事情就是說

我只要用這種方式去 train 這樣一個能預測下一個字的模型,首先因為預測下一個字就代表你的資料是不需要 label 的。就是你在 computer vision,就是在計算機視覺上,你很多時候你要訓練一個模型,你要拿圖片,然後要有人去 label 說這是一隻狗,這是一隻貓,這是一個兔子這樣子。但如果你只是要預測下一個字的話,你不需要 label,你只要拿一個已經存在世界上的句子,然後把最後一個字挖掉,然後去訓練它預測這個字。

那這種就叫 Self-supervised learning,就是自監督式學習這樣那這其實解決了自然語言處理裡面很大的一個 bottleneck 就是我們以前沒有很多的 labeled data 但是我們現在可以用拿一堆 unlabeled data 去訓練這個 decoder

OpenAI 他们发现说 OK 我只要去用很多 on-level data 去训练一个预训练的 model 那我在这个预训的 model 我在拿一些少量的 level data 去针对不同类型的任务比方说机器翻译比方说 question answering 就是针对一些不同类型的任务去做 fine tuning 我是可以达到很好的效果的

所以這件事情在那時候是一個很厲害的發現。然後後來就開始,接下來就是大語言模型時代。Google 就拿 Transformer Encoder 出來,然後拿更大的資料集,更多的 Parameter,然後去 Train 一個更好的 Model。然後 OpenAI 再拿更大的資料過來,然後又拿更多的 Parameter,更多的資料集,然後去 Train 一個更好的 Model。到後來甚至連 Find Tuning 都不用了。就是說,你只要 Model 夠大,資料夠多,Computer 這樣一直

我想說前陣子看到一個應該我忘記他是誰了他就在講說可是資料量已經是固定的了所以他就說不會再出現更好的了對所以我們可以看兩件事情就是說第一個我們剛剛講如果資料量沒有上限的話那你我們的 skill window 就會發現資料越多然後參數越多那我的模型表現就越好然後甚至不需要 fine tuning 我們可以直接在 in context 裡面做 few shot 就給幾個 example 他就最學會一件事情那所以等於是預訓練上限

基本上沒有上線它唯一的上線就是 Internet 的 Data 上線這樣但這個只是在預訓練階段就是你後續就是預訓練結束之後你的 Test Time 上面其實你還是可以再用很多的方式去提高整個 Model 在解決困難問題的 Performance 這樣理解但總之就是

OpenAI 的這個 GPD 系列就是說 GPD1234 基本上它就是 Parameter 變多 Data 變多然後支援 Multi-model 就是

你就可以發現說他出現了一個非常強大的模型然後這個強大模型他在很多事情上都能表現非常好他不是只在一件事情上表現非常好他在很多事情上都能表現得非常好所以那時候大家就發現說就是我們好像真的理所謂的 AGI 因為 AGI 就是 General Intelligent 通用人工智慧就他不是只會做一件事情他可以做很多事情就是更接近的這樣子我想要問一個回到 Healthy Day Faced 的問題就是

刚刚有讲到就是 HeptaBase 它其实诞生的原因就是希望能够达到极致的学习然后现在我觉得我在学习过程当中听到很多人的回馈都是有时候其实你一个人想你怎么想它都无法达到最好有时候反而是透过对话然后沟通互动你会得到更多的启发然后我觉得这个互动其实是可以跟 AI 进行的

那现在 Help.Base 的设置里面我们有可能是透过在里面然后跟 AI 对话沟通然后从这个对话里面直接截取我们所得到的知识跟重点跟新的灵感吗我们现在确实在做这件事情而且我们认为这件非常重要的事情就是

在接下来,明年我们会有几个更新,那就是用户基本上可以在 HyperBase 里面直接跟 AI 问问题,并且把这些问的题目的这个对话过程的讯息可能再拉出来重组,或者说拉出来再开一个新的顺序去问,然后在白板上去根据它和 AI 的这些互动,

逐渐的去建构他的一个主题理解我没有看到你到美国去参加 YC 每年一度的算是校友会然后你说旧金山这座城市似乎不断的向每一个人拷问你是下一个伟大的创业者吗我想问第一个是你为什么会有这样子的感觉跟第二个这边所提到的伟大的创业者那个伟大是什么意思

我觉得在 YC 最大的感受是说就其实那些创业者也都蛮年轻的这样可能二十几岁三十出头这样就是年纪不会真的跟自己差很远但是你就发现说他们明明年纪没有差很远但是他们能做到一些所谓的我们讲的 generational company 那能做出一些正在让现在的这个时代的 platforms 在发生的一些技术

那我觉得这是一件很厉害很厉害的事情比方说以现在来讲现在 AI 的时代我们看到所谓它有 data 有 algorithm 有 compute 那你就发现做 compute 的那个黄仁勋他可能比较老一点

但是像是做模型的就是 OpenAI 或是做 Data 的像 ScaleAI,这些东西都是很年轻的创业者,他们在磨练了大概 10 年左右的时候做出来的公司,然后他们做的这些公司的这些技术是实实在在的正在改善非常非常多事情,让我们可以在解决很多问题上有更强大的工具。那对我来讲,我觉得伟大的公司就是那些能创造出这种,

所謂的改變世界技術或改變世界產品,不管這個東西是 ChatGPT 這樣的一個 Chatbot,還是像是 iPhone,或是 PC 這種硬體或是 Internet。但是重點是這個技術的出現,它讓我們可以用完全不同的,而且是可能是在很多面向上是更好的方式去面對這個世界上各式各樣的問題。那我覺得這對我來講就是,

在 YC 的 reunion 的时候你会觉得说 OK 那我们离做出像这样的产品或做出像这样的技术还有多远毕竟我也创业才三年嘛对所以以十年的路上来讲未来还有七年那到底未来七年我们要做什么事情我们才能让产品成为至少以我们这个所谓的学习研究对事情建立深度理解上面我们要怎么样打造一家公司使得任何人想对任何事情建立深度理解的时候他都会想说我们产品是全世界最好的可以帮助他们达到这个目的的一个产品

那你覺得這個下一步會是什麼這個未來太難預測了那你現在想要踏的這一步會是什麼我覺得現在最重要的事情就像我們剛剛講的我們產品有幾個核心方向第一個是個人的學習和研究要怎麼樣去把這個體驗做得更好那我覺得這個相對 trivial 這就是有點像在此時此刻人們要的東西那第二個的話就是

就是我们相信深度的理解往往不是由一个人去建立的,而是由一群人、一个团队、一个 Community 所谓的最前段的 research 都是一些 Community 去建立的这样。那第三个当然就是 AI 一直在变强,一直在变强。那当我们有智慧非常非常高的 AGI 出现的时候,

怎麼樣讓我們的產品作為一個跟這樣的一個 AGI 最好的一個界面一個互動界面因為你 Chatbot 是一個很原始的一個界面就是你就是 Question Answering 這樣的對話過程但是人類在對事情建立深度理解的時候我覺得有很多事情是不只是是可以在 Chat 以外的很多的

界面上去實現的因為有時候他其實是看到了一個圖然後就腦中自己開始想想想想對你就想像一下就是你假設你今天有一個教授或者說有一個老師在跟你教課的時候你們兩個可能會站在白板面前然後一起畫這個白板然後你可能會指指點點的說這個問題是什麼那個問題是什麼這樣子對那我覺得 AI 在未來一定可以在 HeadedBase 裡面做到類似的事情就是有一個 AI professor 那他可能是

以一个 knowledge base 为基础和你一起在一个白板上共同的去创建这些物件然后你可以共同的去指这些东西共同的对话共同的去建立笔记共同的去建立理解或者说他可以在这个顾问中点出就是你就是他认为你不理解的地方然后去不断的去追问去强化你的思考能力这样或者说他甚至可以去及时的创建很多的 program 很多的动画来帮助你更直观去理解一些抽象的数学概念或抽象的物理定理我觉得这些东西

可想像的東西是太多了但是 AI 成長也非常非常快所以很多時候你真的很難說這件事情做不到所以我才說未來沒有辦法預測但是我知道這個模型這些技術它在持續進步的過程中

真的有非常多可以创新的空间那天花板是没有上限的这也是为什么我前面会想说是我们公司现在这么着重在就是产品的创新上面因为我觉得在这个阶段我们如果去 scale 我们的产品我们当然可以把我们所有的利润全部拿来去做获取更多的用户但是我们这样等于是在 scale 一个上个世代的产品如果时代现在就是变得那么快的话技术变化那么快的话我们应该要把握时间去关注这些技术现在

是怎麼演進的然後去思考這個技術可以怎麼樣幫助我們公司實現我們的願景這有點像是你們自己小小的一個 research 然後要跟你們之後的技術再做一個整合所以你先好好的做研究你就知道那我接下來要幹嘛對對對就不會說你今天技術出來以後就大家很 hype 然後說

就是这个要导入这个要导入对对对就是你的东西是可以深思熟虑的去先想清楚的即便他不会现在马上就退出我听到这边的时候就想到呃我跟程翔很在意的是一个公司里面的小结构就是我们要有一个呃机会探寻

然後機會探尋完要有一個策略的轉換然後再實際的執行然後跟最後的一個算是修正就是反正這四個東西我們一定要很好的做因為它是從輸入到輸出然後一個很好的循環就我們會一直不斷的反覆問自己說那我們現在的機會探尋是不是有

有困境那如果例如说我自己的时间不够了因为我同时要做一些执行然后我没有办法做机会探寻的话那我就要把机会探寻的部分分给大家所以我的合伙人就会跑出去你现在太忙了那我也要出去得到更多的机会然后拉回来然后我们在一个好的有各式各样 knowledge base 的人身上去进行这个策略转化然后再把它丢给大家执行这样子觉得蛮有趣的

那我好奇就是你會定義一個自己是怎樣的人嗎又或者是你會有一個典範或者是渴望想成為的樣子嗎我沒有我很少去想就是我大概知道我喜歡做什麼事情嗯這樣就是我覺得我

就是很喜欢学东西和研究东西的人所以所以我才会做这个创业题目就是我觉得我本身就是一个我对于这世界上某些东西我会特别的好奇并不是对所有事情特别好奇但我会很想知道某些东西是怎么 work 的特别是那种更像是物理上的东西就是说时间是什么空间是什么然后或是

宇宙的最基本的原子是什麼然後它的規則是什麼這樣然後那物理以外可能欸數學就是什麼是向量空間什麼是指數指數有哪些特質或是可能我們生活中這些人工智慧是什麼智慧是什麼就是我們如何定義智慧我們如何達到人工智慧大腦是怎麼運作的就是對我來講我有一個問題的清單是我希望我可以在

人生中去解答到的但我觉得如果我们时间就停留在可能 2024 年好了我觉得我人生应该没有办法解答完这四个我想被解答的问题所以我是希望我们世界可以尽快进到那一个我可以把所有问题都解答完

那那個時候可能就有更多的問題了對而且搞不好還會改變因為科學嘛它就是會改變改變不斷在有新的發現然後就重新被改變那這樣也蠻好的就反正就可以一直活下去對但最核心的問題其實就是很多時候就是那幾個就是宇宙人智慧生命就是

所以我們有一些很核心的就是主要的哲學或者是一些科幻的小說最後的根源就是那些謎題然後他要解答這個東西然後他會吸引很多很多的觀眾大家為什麼我想要去探尋這個世界到底發生了什麼樣的事情那最後有沒有什麼想要跟我們觀眾或者是正在創業的人說的話呢我覺得以創業的角度來看好了就是

我觉得这是一个接下来的时代或者说接下来的十年来会是如果你是一个非常有好奇心的人或是你是一个非常有野心的人的话这是一个非常好的时代对于创业者来讲因为你可以透过 AI 或透过很多 AI 的服务或者透过很多软体服务用更低的成本去做到非常非常多的事情那很多事情

因为世界一定会变很快而且会变越来越快所以只要你能持续的知道说就是你想学什么然后你要怎么去学它那我觉得会在接下来的

這十年或是也不一定是這十年可能是未來的收穫時間對就是會有蠻大的優勢好那今天很謝謝我們 Alan 精彩的分享那這集就先到這邊如果大家喜歡的話呢可以把它分享出去或是點這個地方看其他的相關影片那麼今天的志祺七七就到這邊告一段落我們就明晚再見囉掰掰聽完了 Alan 分享我想大家應該都對 Heptabase 這個生產力工具有了更多的認識了那如果有興趣的話呢現在就趕快點擊資訊欄的連結去開啟你的七天免費試用吧