[Kubernetes] 關於 Kubernetes

前提: 最近在聊天的時候討論到,究竟在 Kubernetes 內管控一些帳號與密碼的時候,我們都知道要使用 Kubernetes Secret 而不要使用 Environment Variables 。 但是在安全性上究竟有哪些差異,我決定查一些書上面的整理: 參考書籍內容 **Kubernetes Security** Liz Rice, Michael Hausenblas You can pass environment variables into containers at runtime. This means you can take the container image (code) and configure it according to the scenario it is running in. In Kubernetes, “ordinary” environment variables can be specified directly in the pod YAML or via a ConfigMap. But be careful: including secret values in YAML files that you check into code control means those secrets are accessible to the same people who can see the source code. To mitigate this, Kubernetes also supports the secret resource, which can be passed into a pod as an environment variable. Your pod spec or ConfigMap YAML refers to the secret resource by name rather than directly to the secret value, so that it’s safe to put that YAML under code control. Kubernetes 1.7 之後的版本,可以加上 node authorization...
繼續閱讀

[Heroku] 如何把 Local Python Docker Services 轉換到 Heroku 上面

前提: 同事喬治日報上面推薦的 https://github.com/assafelovic/gpt-researcher 真的很好用,搭配 https://app.tavily.com/home 超讚 來問問 Sam Altman 最近到底發生什麼事情,懶人包馬上出來。 不太好本地端部署,為了部署在 Heroku 稍微修改一些部署端的設定。 實作 分享一下關於部署需要注意的,跟如何如何更改部署流程在雲端的 FaaS 服務上。 TL;DR 直接按下去部署 Heroic https://github.com/kkdai/gpt-researcher 本地端部署起來 其實真的要部署起來,沒有那麼簡單。首先 local 要克服相關的 python 版本的問題。像是 Python 版本需要 3.11 以上。 PYENV 控制版本 透過 pyenv 控制 python 版本真的很方便,很多時候 LLM 大多使用 python 3.9 。但是有一些人會使用 3.10 甚至是 3.11 pyenv versions:可以列出已經安裝在本地端的所有版本。 可以透過 pyenv install 3.11.6 來安裝版本。 pyenv local 3.xx.xx: 本地端,這個 shell session 切換版本。 pyenv global 3.xx.xx: 讓系統預設版本變換。 部署到 Heroku 由於這個專案,有提供 Dockerfile 其實要本地端部署還是簡單一點。如果希望可以讓更多人使用,可以試試看放在 Heroku 上面。以下分享幾個需要修改的地方。 關於浮動 port 有使用 Cloud Platform 的人都知道,雲端上面 FaaS (Function As A Services) 無法讓你任意選擇開啟的 PORT 。通常會使用 $PORT 帶下去啟動。 關於這部分,可能要檢查一些地方: Dockerfile 套用 $PORT 原有版本在 https://github.com/assafelovic/gpt-researcher/blob/master/Dockerfile FROM python:3.11.4-slim-bullseye as install-browser RUN apt-get update \ && apt-get satisfy -y \ "chromium, chromium-driver (>= 115.0)" \ && chromium --version && chromedriver --version ...... EXPOSE 8000 CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "8000"] 最後一行的 CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "8000"] 由於要帶入環境變數 $PORT 修改如下: CMD uvicorn main:app --host 0.0.0.0 --port $PORT 而 EXPOSE 8000 也可以改成 EXPOSE...
繼續閱讀

[論文心得] 什麼是 LLaVA 與 LLaVA-Interactive

前提: LLaVA-Interactive 週末又在看微軟發表的新的 POC (還有論文) , LLaVA ( (Large Language-and-Vision Assistant: 可以讓你對一圖片透過 LLM 跟他對話,聽說是 GPT-4V 面向的能力),而微軟更依據這個打造黃金三角: - Visual Chat: 針對圖像來理解 - Grounded Editing: 針對原有圖像的修改 - Interactive Segmentation: 透過一些互動的修改 你可以針對圖片去修改,重新生成後,再來針對新產生的圖片去理解並且去做 Visual Chat 。 論文, Github 跟 demo 都在 https://llava-vl.github.io/llava-interactive/ 註解: LLaVA 是根據這個 repo https://github.com/haotian-liu/LLaVA 相關論文摘要: LLaVA-Interactive是一個用於多模態人工智能互動的研究原型系統。該系統可以通過接收多模態用戶輸入並生成多模態回應,與用戶進行多輪對話。LLaVA-Interactive不僅僅局限於語言提示,還可以通過視覺提示對人類意圖進行對齊。該系統的開發非常節省成本,因為它結合了LLaVA的視覺聊天、SEEM的圖像分割以及GLIGEN的圖像生成和編輯等三個多模態技能,而無需進行額外的模型訓練。通過展示多種應用場景,我們展示了LLaVA-Interactive的潛力,並激發了未來在多模態互動系統方面的研究。 實際展示: 左邊上傳一張湖邊的圖片 透過畫線的方式去修改(增加鳥跟船)。 然後在右邊可以去根據新產生的圖片去聊天跟理解。
繼續閱讀

[論文心得] MM-VID : Advancing Video Understanding with GPT-4V(ision)

論文名稱:MM-VID : Advancing Video Understanding with GPT-4V(ision) MM-VID : Advancing Video Understanding with GPT-4V(ision) 微軟對於 LMM 火力展示又來了,他們公開一套框架叫做 MM-VID 。 可以對於 Multiple Model 更強大的綜合應用。 不論是看動影片劇情,找尋某個片段。更有影片與聲音的綜合理解功能。第二張圖是架構,基本上透過兩個方面來綜合理解: - 每一個 clip 的理解 (GPT-4V) - 對於Metadata 的理解 (GPT-4) 最後產生總結與推論的相關工作
繼續閱讀

[好書分享] 重新想像教育的未來

重新想像教育的未來 - 世界教育部長肯.羅賓森最後演講,對教育、環保、文化的深刻洞見 作者: 肯.羅賓森 凱特.羅賓森 原文作者: Sir Ken Robinson Kate Robinson 譯者: 廖建容 出版社:天下文化 買書推薦網址: Readmoo: 購買網址 前言: 這是 2023 年第14本讀完的書。 對於 肯.羅賓森 (Sir Ken Robinson) 你可能有看過他在 TED 上面的演講(據說是 TED 目前最多人看過的影片)。關於「學校是否扼殺了創意!」。 肯.羅賓森 是一個致力於教育的偉大教育家,並且透過許多演講與書籍來分享關於教育的看法,這一本是他最後一本創作(因為身體因素,後期都是女兒協助完成)。 內容摘要: ▎教育,需要重新想像 現行教育體制有如「工業化農場」,過度看重服從、測驗和考上名校, 更甚於健康快樂、創造力和學習,忽視孩子的焦慮、壓力和迷茫。 如同我們正在破壞自然資源的多樣性,現行教育體制也在毀滅人類天賦的多樣性。 教育是活的系統,為活生生的人培育心智和心靈。 教育必須使學生了解周遭的世界,以及自己擁有的獨特天賦, 才能提高孩子的成就,使他們能在即將承接的世界發光發熱。 父母和老師是孩子最重要的擁護者;大人對孩子的信任必須高過對教育體系的信任。 當土壤對了,農牧系統就會順利發展;當教育對了,孩子便會順利成長。 一個教育制度能夠成功,不是因為考試,而是個體受到肯定,天賦的多元性受到重視。 在校園裡創造創意性的連結,用跨越年齡、跨越課程、多學科的方式學習,顧及個人的興趣, 以及每個人選擇的獨特路徑,不再教出一代又一代一模一樣的孩子,讓成長、發展和學習自然發生。 這就是像田地一樣充滿生機的「野化教育」, 讓孩子在健康的土壤學習與成長,不再看重標準化,而是發展多樣性。 教育的目標是培養八個核心能力:好奇心、創造力、評判力、溝通力、合作力、同情心、內心的平靜和公民權。 使學生離開校園之後,有能力迎接一生中必然要面對的個人、文化、經濟和社會的挑戰。 ▎學校,需要重新想像 學校不該扼殺創意,而要成為活潑的學習場域,幫助學生真正認識自己的獨特天賦和興趣。 學校不該把學科分成「主科」(像是國文、數學、英文與科學)和 「副科」(像是藝術、音樂、體育)。「智商」並非「智力」的全貌。 人類的智力是多元的,鼓勵孩子發展多元智力, 才能發揮創造力。智力的最高形式,是創造性思考。 學校就像一個健康蓬勃的生態系統; 看重老師、跨學科教學、課表有彈性、以正確角度看待評量, 才能達成個人化學習的目標。 學校是廣義的文化生態系統的一部分。 優秀的農民會培育植物的自然生態系統, 同樣的,優秀的學校會致力與外界的更大社群有更緊密的連結。 ▎未來,需要重新想像 強大的想像能力讓人類創造出影響深遠的成就, 改變了地球的面貌,但同時也把我們帶到懸崖邊緣。 這個時代的挑戰既真實又急迫,而且人類就是問題的源頭。 氣候變遷危機和地球困境是我們漠視大自然的結果。 要迎接地球與人類存亡的挑戰,我們必須發揮創造力, 讓經濟的發展能夠多元與永續,使生態系能夠平衡與蓬勃發展。 人類既然創造了目前居住的世界,就一定有辦法改造它。 長期以來我們一直用同樣的方式,不斷消耗人類資源和地球自然資源; 必須立刻解決這兩個問題,才能想望未來。 人類的優勢 人類天生的能力: 想像力 創造力 過程 原創 價值 許多相關的創造力,在於現今社會許多不同媒體與事物的變革上。 你比你所想的更豐富 智力是多元的: 在某些層面比較強,相較出來的其他層面就會比較弱。 相關的智力也跟天生的環境有關。 智力是動態的: 根據不同事情,不同環境的刺激。會有相關智力的表現。 將智力與學習科目綁在一起,就會忽略了「創造力」 創造力的迷思: 不是只有藝術相關的才是創造力,任何科目與項目都跟創造力有關。 創造力來自於環境,各種遺傳也會影響著創造力的呈現方式。 教育的盲點: 試著有條理地整理他們需要的知識,但是卻忘記了他們喜愛的事物。 如何培養著相關創造力的產生。 教育需要了解每一個學生: 你了解的周遭世界 因為你而存在的內在世界(創造力與智力 教育主要的方向: 個人: 了解並尊重每一個人,讓孩子樂於接受教育。 文化: 肯定自己的文化,了解其他文化與做法。 經濟 社會 八個重要的能力: 好奇心: 提處問題與探索世界運作方式的能力。 創造力: 產生新的想法和付諸實踐的能力。 試著引導孩子們去探索,產生興趣。 判斷力: 分析資訊和想法,形成合理的論點與判斷力。 幫助孩子們如何去尋找正確,並且來具有批判性思考。 溝通力:以不同方式清楚自信地表達想法和感受的能力。 合作力: 以建設性方式與他人共事的能力。 同情心: 對他人感同身受並因此採取行動的能力。 內心的平靜:與內在感受連結和培養內在和諧平衡的能力。 公民權: 以正向行動投入社會以及參與社會維繫過程的能力。 從工廠到農場的教育: 野化教育 工廠教育: 大量生產的方式 線性生產 每個人(老師)有自己負責的項目(科目) 預先定義,一成不變,嚴格控管 工廠化教育的缺點: 把孩子當成商品來教育(到大學),但是往往在「成品」之前,他們的人生以經開始了一大半。 透過固定化的教育,許多孩子變得更不快樂。 野化教育: 好的農夫不會限制生長的框架 反而會準備最好土壤,讓植物去成長茁壯。 優秀的學校會專注於創造讓孩子成長茁壯,發光發熱的條件。 讓學校變成生態系統: 尊重生態系統的多樣性(孩子們的多樣性) 看重老師,就像孩子本身是教育的主體一樣。 老師也是教育裡面完全無法被剝奪的一環。老師就像是一個良好有經驗的農夫,需要被尊重與給予良好的待遇。 老師的價值在於促進學習動機。(不是讓孩子拿高分) 老師需要針對不同的學生給予不同的誘因與促進他們學習的動機。 透過個人化教育: 多樣性 多面向,多元的智力發展 更有彈性。 如果有一家公司 40 分重要規定員工要做不同的事情,可能會倒閉。但是學校正在這樣做! 心得: 如果說這是一本來自於「肯.羅賓森」的一本書,不如說這是他一輩子在做的事情的總結。就像他的三場改變數千萬人的...
繼續閱讀

[遊戲天國] P 的謊言

只有 18.3 全破了,應該算是蠻難的吧? 最後的身為大魔王的老爸,還是捨不得讓裝有兒子心臟的 P 被殺死。 前情提要: 剛打完魂3,本來決定要把 2077 來打破。偏偏最近紅了一個美型的「類魂」遊戲,就讓我很心動。 結果在 XBox Game Pass 試玩了一下,發現真的蠻好玩的。 於是還是去 Steam 把他買了下來。 這個玩法跟類魂真的完全不同,一開始的主角就像是點了「迴避距離-3」的技能一樣。基本上不會迴避,一定得靠完美格擋才能玩。然後整個完美格擋的判斷又很爛。 基本上要打過一個王就是要把他的所有攻擊都背招背起來,真的是很難。(不過我還是過了!!看來我很會被招誒) 攻略清單: 攻略請看: https://www.gamersky.com/handbook/202309/1646639_70.shtml 巴哈心得文 - 有把王排序 【心得】P的謊言-物超所值的高級類魂仿作(手殘黨圖文心得)(後面有BOSS雷) P 的謊言,除了主線之外,還有以下東西 有著許多好寶物的加密容器 P的謊言(Lies of P)-全部加密容器與解密位置 三一鑰匙跟房間也是有很多裝備跟寶物 P的謊言攻略|帶你收集所有三一鑰匙!|Lies of p 刷魂(刷等 以下比較後期 P的謊言 快速刷等 30秒一千經驗 Lies of P 王的逃課方式 https://forum.gamer.com.tw/C.php?bsn=71348&snA=135
繼續閱讀