gipi

gipi
對人工智慧對齊問題的探討

學習

對人工智慧對齊問題的探討

先前我們曾在一篇文章中談論到會限制 AI 發展的因素,其中一項是關於人類的限制。這邊的限制涉及法規以及道德層面的議題,也正是因為這些議題過於複雜,所以推進速度並不算快,因為這涉及對整個社會的穩定與安全議題。 如果 AI 失控,做出對人類有害的舉動時,人類已將大量的控制權交給 AI,那人類該如何自保? 這裡頭涉及了事前的干預,也就是避免 AI 產生這類意圖,或者在產生這類意圖時,有機制能防止他採取行動。而涉及了事後的補救,也就是當事情已發生,還可以如何回復原樣。但現階段討論較多的,大多是事前干預。 但事前干預,該如何干預?什麼樣的干預方向才恰當?這些問題暫時都沒有標準答案,但我們需要做出對齊,確保我們對這些事情的看法一致。 而「AI 對齊」(AI alignments)就是應確保 AI 的行為能與人類價值觀相匹配,確保 AI 以對人類和社會有益的方式行事,不會因此侵害人類的人身安全與和權利。 今天看了一篇騰訊研究院的文章(大模型時代AI價值對齊的問題、對策和展望),有些不錯的收穫。加上內容大多是基於英美語系國家的的科學研究,而非中國本地,

By gipi
客戶不回訪、不續購,不見得是產品有問題,問題很可能出在這

經營管理

客戶不回訪、不續購,不見得是產品有問題,問題很可能出在這

近幾年,還是有許多企業在跟我討論關於產品改善的問題,但有許多問題聊到最後我都發現,問題或許不見得出在產品本身,而出在營運上。 首先還是跟大家分享兩個有趣的案例。 第一個案例,是我一位賣健康食品的朋友 Jack,有次跟他閒聊時他提到了客戶回購這件事。 Jack:「我做電商銷售健康食品已經 2 年多了,目前每月營業數字也破百萬了,但回購率一直上不去,去年努力了一整年,回購率好不容易從 12% 提升到 15%,但感覺已經是上限了,最近在想到底要不要調整一下產品。」 gipi:「你做了什麼?為什麼會覺得是產品問題?」 Jack:「該做的促銷都做了,回購的折扣我覺得也很不錯,但回購就是上不來,所以覺得很可能是產品有問題。」 gipi:「剛剛簡單查了一下,網路上似乎沒有什麼負評,感覺不是產品問題。」 Jack:「但目前實在想不到其他原因了。」 聽完他的描述,我問他:「客人們買回家後有沒有開封吃,或者持續吃,這個你清楚嗎?」 Jack:「這不確定,但應該都會吃才對。」 gipi:「這樣吧, 請你從那些應該回購卻沒有回購的客人名單中挑選100位,打電話逐一跟他們確認兩件事,第一,

By gipi
關於自信心的建立

學習

關於自信心的建立

羅蘭:「自信不是天生的,而是練習出來的。」 我從小時候開始,對自己一直也都沒什麼自信,我的體能不錯,但通常就是班級前三,我的腦袋還行,但也不會是班上最強,我對自己的外表沒自信,我甚至將小學畢業紀念冊上自己的照片剪掉。 大學時期,我因為成績不好,只會打球,打球甚至成了我唯一獲得自信的地方。出社會後,我雖然掛著研發工程師的職稱,但其實我程式一竅不通,學習能力也不好,連最簡單的程式都寫不出來。 搞到最後,我對自己的能力也喪失了自信。 每當我喪失自信時,我就會想逃避面對這些問題,像是剪掉畢業紀念冊上的照片,曠課不上課,迴避學習程式,只想著拖完上班時間快點下班。 直到我不得不面對,又或者是有其他事情讓我獲得了自信,我才能真正把一件事做好。 外表的自信,靠得是國中有些同學喜歡我,讓我覺得原來我沒這麼遭;課業的自信是我真的認真念書後,我還是能考上原先第一志願的研究所;寫程式的自信則是因為有人教了,而我也認真學了,並從中找到程式的樂趣。 我自己就是經歷過好些年的探索,才能掌握自信。 知道自己會什麼,能做到什麼所謂的自信 不是說那種覺得自己搞得定所有事,沒有事情難得倒自己。我認為這不

By gipi
馬斯克談產品研發過程可能犯的錯誤

產品開發

馬斯克談產品研發過程可能犯的錯誤

今天下午看到一個 2021 年 Elon Musk 接受專訪的影片:https://www.youtube.com/watch?v=t705r8ICkRw 裡頭提到蠻多產品開發的觀念,包含需求、分工,以及工程師的職責,我個人認為非常值得一看,以下我幫大家摘要了部分我有感觸的內容。 讓你的需求更簡潔 簡化需求,而非複雜化需求,許多工程師會傾向於增加需求或規格,但真正好的做法應該是減法。這個減法理論從 Steve Jobs 到 Elon Musk 都非常推崇,我個人也認為是很關鍵的議題。 在一個產品中,增加東西是容易的,但往往會增加複雜度,當我們總想著增加時,思考解決問題方法時,我們往往只有「增加」這個方向,而不會想著「減少」與「重新設計」。這其實也是所有技術債的成因之一。 而習慣用加法的產品,很容易模糊了產品的焦點。 當產品核心功能不具備競爭力時,很多產品團隊會開始想給客戶更多,而更多經常意味著失焦,

By gipi
過去半年,我用生成式 AI 的學習與觀察

學習

過去半年,我用生成式 AI 的學習與觀察

過去兩年,算是生成式 AI 大放異彩的日子,幾乎每個月都有重磅的服務推出,底層技術也刷新了好多次。我自己在過去半年因為時間上有較多的空檔,研究並且玩了好幾套 AI 工具,目前有些服務都已經成了我日常會使用的工具。 我常用的工具 NotebookLM 被我用來整理我過往的內容與提供寫作建議,有時我需要一些內容架構或英文縮寫字時,我會請它給我 idea,它總是能給出許多我花大把時間都不見得想得出來的內容。當我想寫一篇特定主題的內容時,我會先請他幫我整理我對該主題過去發表過的觀點,在過往觀點上做出修改,文章產出的速度就可以很快了。 我在寫書過程中,為了優化想法,我請 NotebookLM 給出的建議。我給了他大綱,然後請他幫我為每個部份找一個代表英文字,每個部份的英文字的首字結合在一起要是 VISION。他產生的又快又好,讓我很快地產生了新的想法。 ChatGPT / Perplexity / Microsoft copilot 通常是為了查詢資料,但知道用關鍵字慢慢查很花時間,這時我就會用這兩個服務來輔助。像我上次查「佐克伯這兩年為什麼比較少出現在媒體上,他有刻意在調整嗎

By gipi
讓 AI 生成程式,後續維護至關重要

產品開發

讓 AI 生成程式,後續維護至關重要

近期因為研究 Github Copilot,也一併看了 Figma to code 相關的服務,因為我想生成式 AI 會影響的並不單純是寫程式本身,而是直接影響了整個軟體開發生命週期。 釐清需求,我會考慮直接用 Figma 或其他設計工具搭配 AI 模組直接跟使用者溝通,然後若有雛型可以直接使用應該是非常快的。設計,Figma 應該就夠好用了,Figma to code 還能直接轉出前端程式碼跟 UI flow,也可以省下一些功夫。 Canva 或 Adobe 的工具也能轉成 html,也能省下一些功夫。Pseudocode to code,將虛擬碼轉成程式碼,目前還沒找到其他可以將規格直接轉成後端程式碼的工具,但合理來說,一些做軟體設計、UML 或者 pseudo code 相關的工具應該能做到。 程式撰寫、code review、

By gipi
我經歷過最高效的新人培訓方式

經營管理

我經歷過最高效的新人培訓方式

新人的培訓,一直都是很多管理者跟經營者重視的問題,我自己參與過很多不同的新人培訓過程,但一直以來我認為最有效的培訓方式是我剛出社會時所接受到的培訓方式。 剛出社會時,我所加入的團隊是一個五人小組,兩位學長,還有我們三位菜鳥,我們所擁有的培訓資源基本上並不多,但學長卻透過其他方式,給了我們很充分的 support。 我們三位菜鳥都是剛畢業,沒有什麼寫程式經驗的新手,但我們卻要開始負責公司內一個底層的開發平台。這怎麼想都是一個巨大的挑戰,但我們還是順利接上了,而且到我們獨立作業,大約只用了 2-3 個月的時間。那當時,我們到底是如何做到的呢? 首先,基礎的培訓一定還是有的,對於我們負責的產品,技術架構怎麼樣,有什麼元件,有什麼特性,別人如何運用這個平台來開發程式,這些在基礎的培訓中都有教。 但像我們這種菜鳥,哪懂什麼技術平台,哪懂什麼物件導向,也是考量到這些問題,學長們在教育訓練過程舉了蠻多生活中的案例,像是用音樂廳來形容技術平台的角色,這就很淺白易懂了。 不過聽懂是一件事,理解是另一回事,所以學長們在培訓過程也會出考題跟提問來確認我們是否真的理解。在我接受過的技術培訓中,這絕對

By gipi
有效學習的方法-底層知識學習法

學習

有效學習的方法-底層知識學習法

談到學習方法這件事,我以前有分享過好多次,包含學習七步法,以及底層知識建立法,還有學院以教學為主體談論的學習金字塔,但嚴格來說,我所有學習的核心其實就是學習金字塔+底層知識建立法。學習金字塔的觀念有分享過很多次,但底層知識建立法我過去公開的文章裡面大概就是一篇談碎片學習為何無效的文章,所以我想可以先來聊一下底層知識建立法。 底層知識建立法 底層知識建立法強調的是透過持續累積可遷移知識(transferable knowledge)來加快學習速度。所謂的可遷移知識指的是什麼呢?像是數學,數學觀念好的人,學習很多東西的速度都會快很多,又比如溝通表達能力,溝通表達能力好的人,在需要與人頻繁溝通的職務上,進入狀況的速度也會快很多... 這些知識,都是跨越很多專業領域都會需要的。以我自己為例,我身上主要的可遷移知識像是溝通表達、邏輯思考、專案管理、問題解決等等,這些知識都是我累積很久,而且打磨得還不錯的能力,所以當今天我進入一個新工作崗位時,只要該職務所需的核心能力包含這四個,我上手的速度就會快很多。 也是因為這樣,所以當年我轉換到產品經理職務時,需要學習的就是面向市場,以及產品設計跟

By gipi
生活太忙碌時,給自己一段休耕期吧

學習

生活太忙碌時,給自己一段休耕期吧

當我們習慣忙碌的工作與生活,總會忘記適時的停下腳步,讓自己休息一陣子。所謂的休息,並不是週末休息兩天這麼簡單,而是讓自己可以從當前的生活與工作中抽離一段時間,讓自己用另一種節奏與心態來過生活。 過去 10 多年,我每年會給自己兩段完全放空的時間,這段時間我稱之為休耕期。休耕期的概念是源自於土地耕作。 土地在耕作時都會安排休耕的時間,因為作物的生產主要決定於土壤的肥力,土壤的肥力包括有機質。在耕作期間土壤的肥力會因為被作物吸收而逐漸降低,所以在耕作期後,一般會安排一段休耕期,種植綠肥讓土地的肥力恢復。所以你會看到很多田地在休耕期間,可能會種植波斯菊或油菜花,最後則是讓這些花爛在田地裡,成為田地的養份,讓肥力恢復。而這段時間,就稱之為休耕期。 人也是一樣的,當我們持續一段高紀律的生活後,總是會覺得有點疲憊,精神力跟體力產生耗損,此時,讓自己適度的休息放空一下未嘗不是一件好事,這段時間你可以盡量讓自己放鬆去做一些平常比較不會去做的事情,當作犒賞自己也好,當作淨空重新思考也好,總之,讓自己休息一陣子。 我人生的第一次休耕 打從出社會,我一直都維持著高強度的工作,投入在工作的時間很長

By gipi
有效努力,要做就要做到位,拒絕半吊子的努力

職場與工作技巧

有效努力,要做就要做到位,拒絕半吊子的努力

還記得在 2017 年剛從公司離開,進入到自由工作市場時,曾跟幾位前輩聊過說我想要做商業思維的普及,那時有位前輩聽完後他建議我「還是先回職場繼續工作吧」,因為他覺得我做這件事挑戰太大了,不現實。而 2018 年,我在全年 50 多場演講中都把商業思維置入進去,2019 年正式出版了《商業思維》這本書,然後進入了普及商業思維之路。 在 2019 年時我啟動了商業思維學院的規劃,那時我也找了很多人聊我的規劃與想法,也提到 2020 年我們打算從日更開始。那時也是很多朋友都語重心長地跟我說「這件事的難度太高了,但你要做我很佩服」。後來,我們在 2020 年真的完成了 220 多篇百科,以及數十堂講座。 有些人對我的印象就是我是一個執行力很強,時間管理做得很好的人。但其實我只是很討厭做半吊子努力的人。什麼叫半吊子努力?就是做事只做一半,或者在還沒看到成效前就放棄。 每當有人跟我說他真的很想做一件事,我總會問他:「你付出過什麼努力?」 想要變強,你花了多少時間跟資源學習呢? 想要換一份好工作,你花多少時間了解職缺跟自己,

By gipi
Claude 公司 CEO 對 AI 未來的看法

學習

Claude 公司 CEO 對 AI 未來的看法

Anthropic,也就是發佈 Claude 的公司,是由幾位 OpenAI 的早期員工共同創立,其 CEO Dario Amodei 在本月份發布了一篇文章 - Machines of Loving Grace。 內容主要談論他看待 AI 的未來,全文很長,談的方向很廣,幾乎可以說無所不包的談 AI 將對世界帶來的影響,以下我摘要一些我自己覺得有道理的部分,也附上一部份自己的想法供大家參考。 他在這篇文章中主要談論他對 AI 將影響的五個面向作分享: 1. 生物學和身體健康 2. 神經科學和心理健康 3. 經濟發展與貧困 4. 和平與治理 5. 工作和意義 先來一個小結論,我覺得他談論 1.2 兩項實立論是相對清楚的,至於 3-5,我個人認為他的論點無法說服我。 以下是我覺得可以分享的部分內容,有興趣的人到時自己看原文。

By gipi
輕鬆主義,不再以努力為榮

讀書心得

輕鬆主義,不再以努力為榮

早上運動時又聽了一本書,這本書叫《輕鬆主義》,裡頭有許多概念都與我近期的啟發有關,我稍做整理跟大家分享。 這本書的核心信念是「不要以為只有努力才能獲得成功,我們要相信,這世界永遠有輕鬆的方法,我們應該盡可能讓自己活得輕鬆。」 樊登說書過程中提到了滾雪球效應,如果你的目的是要獲得一顆最大的雪球,那你不應該選擇從山坡下往上推,而是該找一個夠長的下坡,從山上將雪球往下推。 一樣都能把雪球滾大,但前者花費的力氣經常遠大於後者,而且可持續性差異實在太大了。 找尋更輕鬆的方法,怎麼簡單怎麼來。 那我們要怎麼讓自己變得輕鬆呢?作者提到要輕鬆生活,有三個很重要的部分: * 輕鬆狀態 * 輕鬆行動 * 輕鬆成果 輕鬆狀態 主動追求輕鬆狀態,這邊樊登舉了創業了例子,在你創業前,大家總會告訴你創業有多辛苦,會踩多少地雷,要吃多少苦跟承受多少壓力,把創業說得很可能,需要很努力的人才能創業。 但樊登的想法是「真正的創業是你要爭取不被毒打,要爭取把損失降到最小,如果能用很簡單的方式解決問題,就不要用複雜的方法,所以你要經常問自己,有沒有更容易的辦法。」 這個概念在樊登的著作《低風險創

By gipi