[Google I/O] Google Developer I/O Developer Keynote 整理

image-20240515122008130

主要觀賞 link: https://www.youtube.com/watch?v=ddcZnW1HKUY

AI 摘要整理:

📚 整體摘要

  • 此摘要涵蓋了在會議中如何使用 Gemini API 和 Google 的 AI 工具以及相關技術來強化應用程式開發的介紹。

🔖 重點概念

  • Gemini API 可以整合至 Android Studio 和其他開發工具,增強開發效率。
  • 透過使用 Google Cloud 和 Vertex AI,開發人員能夠接觸到更強大的 Gemini 功能。
  • 提供多平台開發的一體化工具,如 Flutter 與 Firebase,用以支持快速開發。
  • 開發者可以自定義 AI 模型,改善應用性能與用戶體驗。
  • 強調隱私和安全,在開發過程中保護用戶數據與合規性。

💡 為什麼我們要學這個?

  • 理解和運用現代 AI 和多平台整合工具是提升開發效率和應用創新性的關鍵。

❓ 延伸小問題

  • 在你的下一個開發項目中,你可能如何利用 Gemini API 或其他 Google AI 工具來提升產品的性能或用戶體驗?

幾個重點

Gemini 1.5 Flash

image-20240515091748133

  • 支援兩百個國家以上

image-20240515091903439

它擁有以下主要功能與特典:

  1. 快速反應:Gemini 1.5 Flash 能夠生成更快的回應,進而提高使用效率。
  2. 適應性:它能夠對翻譯、推理和編碼等任務的能力進行改善,使其更加強大。
  3. 增強的理解能力:這一模型擁有 100 萬個 token 的上下文窗口,進而提高其運行的效

Google AI Sudio 支援 2M token context windows

  • 原本 Gemini 1.5 Pro 是 1M token

Google Gemini API Competition

  • image-20240515093249577

  • https://ai.google.dev/competition?hl=zh-tw

  • image-20240515093252124
  • Google AI Competition 贏得人可以拿到 DoLorean (回到未來那一台)
  • image-20240515093942157
  • 甚至還找了「回到未來」的飾演博士的演員(真的也太老開發者才會知道的)

Gemini on Android - Gemini Nano

image-20240515102730901

  • OS 中似乎有個 AI Core
    • Gemini Nano 和 LoRA 在 Android 的 AI Core 中主要是為了提升 Android 設備的本地 AI 能力。這種設定使得設備能夠在不依賴雲端服務的情況下有效地執行 AI 強化的任務,進而提升隱私、減少延遲和降低數據使用。
    • Gemini Nano 是 Google 專為本地任務優化的 Gemini AI 模型。它設計用於直接在移動設備處理器上運行,能夠支援多種重要用例,如摘要、提問回答、實體抽取和校對。這使得應用程式能夠在裝置離線的情況下提供高品質的反應,並具有對話意識。
    • LoRA(Low-Rank Adaptation)是一種允許在不大幅增加模型尺寸的情況下有效地微調大型語言模型的技術。在 Android 的 AI Core 中,LoRA 可以被用來將 Gemini Nano 模型適應特定任務或領域,使其更加高效和針對個別應用程式的需求。
    • 通過在 Android 的 AI Core 中加入 Gemini Nano 和 LoRA,Google 旨在為開發者提供強大的工具,以便構建 AI 強化的功能和應用程式。這將為使用者在各種任務和領域提供更智能、更敏捷、更保護隱私的體驗。

image-20240515103328968

(GPT4-O 本來以為 Grammarly 要死~結果 Andorid 內建)

  • 原來三星之前就有,Google 只是整個收進 Android OS https://twitter.com/Chiebuniem_/status/1493926483500412931/photo/1

放入 Android OS 中能做到:

  1. 拼字檢查:即時發現拼字錯誤,提醒使用者對錯誤的單字進行更正。
  2. 文法檢查:幫助使用者找出文法錯誤並提供正確的用法建議。
  3. 句子結構:協助使用者改善句子結構,提升句子的清晰度和流暢度。
  4. 清晰度和簡潔性:提供建議以提升寫作的清晰度和簡潔性。
  5. 語氣和友善度:協助使用者適當調整語氣和友善度,以符合不同情境的需求。
  6. 個人字典:允許使用者添加自己的單字,避免將這些單字誤認為拼字錯誤。
  7. 對不同語言的支援:允許使用者選擇英式英語或美式英語的拼寫規則。

這些功能使 Grammarly 成為 Android 系統上的有效寫作輔助工具,幫助使用者改善寫作質量,提升溝通效率和准確性。

Kotlin/ Gemini on Android Studio (跳過) XD

Firebase 相關(這些蠻有趣的)

  • 🐘Data Connect, PostgreSQL backend-as-a-service
  • 🌎App Hosting, web hosting for modern frameworks
  • ✨Genkit, a GenAI framework for app developers

[好書分享] 一個投機者的告白(增修版)

一個投機者的告白(增修版)
作者: 安德烈.科斯托蘭尼  
原文作者: André Kostolany  
出版社:商業周刊 
出版日期:2018/02/01 

買書推薦網址:

前言:

這是 2024 年第 3 本讀完的書,這一系列跟著:

書本類型蠻類似的。

內容摘要:

投資必讀經典!在台累銷90萬冊,電子書首度上市!

詭譎多變的市場裡,永恆不變的指引——
傳奇散戶投機家、德國股神科斯托蘭尼

「人心+資金」決定所有市場起落,
咀嚼大師智慧,小散戶也能成為自由支配財富的貴族

他沒有股神華倫.巴菲特(Warren Buffett)旗下的波克夏集團大軍,卻能與股神平起平坐;沒有債券,天王葛洛斯(Bill Gross)千百人的研究團隊,但只要他動口,全球市場皆側耳傾聽;他不像投資大鱷索羅斯(George Soros)會在各地發動貨幣戰爭,但當他一派優雅提出某國貨幣被錯估時,沒有一個政府敢掉以輕心。他是「德國股神」安德烈‧科斯托蘭尼(André Kostolany),古往今來的大師中,少數不打團體戰、特立獨行的散戶投機家。

科斯托蘭尼的一生充滿矛盾和對立:1906年出生於匈牙利, 13歲就靠貨幣套利賺進人生第一筆投機財,21歲踏入證券業,30歲出頭便已賺到百萬美元(約合現今新台幣1億2,000萬元)的身價,但也曾因看錯方向而破產兩次。一生出入全球78個交易所,歷經兩次世界大戰、數次股市崩盤和石油危機,20世紀所有的通膨、緊縮、升值、貶值都深刻記在腦中,科斯托蘭尼用自己的財富告訴世人,只要貫徹幾個簡單的想法,就能在雜音四處的交易市場中找到主旋律,交易所也就會從殺聲震天的賭場變成充滿美妙音樂的樂園,再加上資金、耐心及堅強的心臟,一個散戶或許比專業法人更有機會成為自由支配時間及財富的貴族。

《一個投機者的告白》是科斯托蘭尼一生集大成之作。本書於1999年2月動筆,9月科老病逝巴黎,12月本書在德國出版,為科老生前最後一本作品。經歷80年投資生涯,一生富裕、優雅、從容,科斯托蘭尼畢生通透掌握以錢賺錢的精髓,以幽默、雋永和風采,寫下精彩絕倫的93年人生告白。他說:「我是投機人士,始終如一!」這本匯集當世投資/投機智慧精華的書,就是科斯托蘭尼最無私的禮物。

心得:

整本書都是在分享他的投資過程。並且有相關的心理狀態的分析,在不同階段給予不同得心裡敘述。讓我印象最深刻是最後一個章節,裡面有提到有人為了結婚而離開了投資的市場。將手上的股票全部賣掉後專心地過生活,但是遇到股市大好的時候,又想要加入整個投資圈。於是又過頭來繼續投資。 像極了賭博式的心態,也代表著有一些投資圈的人就像上癮般的喜歡投資的原因。

[Golang][Render] 如何透過 Github Action 讓 Golang App 部署到 Render.com

image-20240505232556431

前情提要:

雖然我近期已經把所有服務都已經從 Heroku.com 搬遷到 GCP 上面,但是 Render.com 本來也是我教學的一個方案。畢竟它擁有不需要信用卡,有免費額度可以讓學生們快速上手。 這邊快速記錄一下該如何透過 Github Action 部署 Golang 服務到 Render.com 的流程。

如果啟動部署,流程會是:

  • 完成 PR Merged 之後
  • Draft a Release 在 Github 上面
  • 然後會啟動自動部署到 Render.com

範例程式碼:

可以參考這個 REPO https://github.com/kkdai/linebot-food-enthusiast

如何開始設定 Github Continuous Deployment

1. 取得 Render.com API Key

2. Render.com API Key 跟 Services ID 填寫到 Github 設定

你到你專案的設定 Secrets and Variables -> Actions

image-20240506121253792

image-20240506121347433

3. render config file render.yaml

放在 github 根目錄

services:
- type: web
  name: linebot-food-enthusiast
  env: go
  buildCommand: go build -o app
  startCommand: ./app
  plan: free
  autoDeploy: false
  envVars:
  - key: ChannelAccessToken
    sync: false
  - key: ChannelSecret
    sync: false
  - key: GOOGLE_GEMINI_API_KEY
    sync: false

4. render.com Github Action

放在 https://github.com/kkdai/linebot-food-enthusiast/blob/main/.github/workflows/render_deploy.yml

name: Render Deploy

on:
  release:
    types: [created]

jobs:
  build:
    runs-on: ubuntu-latest
    steps:
      - name: Deploy to production
        uses: johnbeynon/[email protected]
        with:
          service-id: $
          api-key: $
          wait-for-success: true

其他 Q&A

image-20240506121619207

Q: 看到有一些錯誤顯示,那是否有問題?

A: 目前不會造成部署的錯誤,但是會有錯誤訊息發生。

image-20240506122442086

參考文章:

[Golang][GCP] 透過 Cloud Shell Editor 來部署 Cloud Run 服務

image-20240505134906848

前提:

Cloud Run 其實很方便,可以很快速地將 Heroku 的專案搬移過來。可以透過 Create Services 的方式將 github 的專案直接建立一個 Coontinues Deployment 的流程在 Cloud 。 但是本篇文章會介紹另外一種方式,可以透過 Cloud Shell Editor 的方式也是可以部署你的 github 專案到 Google Cloud Run 的平台。

使用 Cloud Shell Editor 來部署 Cloud Run 服務

image-20240503121609014

image-20240503121650413

image-20240503121810435

image-20240503122134392

image-20240503122152505

  • 點選左下角的 Cloud Code ,啟動認證。

image-20240503122237357

  • 這邊點選 Deploy to Cloud Run

image-20240505132951404

image-20240505132953744

  • 基本上變動都不用改,直接選預設的就可以。

image-20240505133230357

  • 然後回到 Cloud Run 設定,加入原本需要的環境變數。
  • 這樣就可以了。

參考文章:

[Golang][GCP] Cloud Run 造成的 Artifact Registry 空間的清理策略(Cleanup Policy)

前提:

Cloud Run 其實很方便,可以很快速地將 Heroku 的專案搬移過來。在建置 Cloud Functions (第 2 代) 的過程中,會使用到 Cloud Build 跟 Artifact Registry,但建置成功後,舊版本的 Artifact Registry 卻不會自動刪除。

原本從「Heroku 取消免費方案?教你用 Cloud Functions 架設 LINEBOT!」看到了 GCR-Cleanner 。但是卻發現在 GCP 的介面上有更方便的方法可以使用。

image-20240502233826127

透過 Artifact Registry 直接設定 House Keeping 策略

  • Artifact Registry

    image-20240502234018634

  • 點選 size 最大的吧,然後選取上方 Edit Repository

  • 在最下方,選曲 Cleanup Policies

  • 選擇 “Keep most Recent versions”

  • “Keep count” 選 1 (也可以是 2)

image-20240502234314012

如果怕刪除太多,可以用 Dry run 看看結果。

參考文章:

[BwAI workshop][Golang] LINE OA + CloudFunction + GeminiPro + Firebase = 旅行小幫手 LINE 聊天機器人(4): 關於 Gemini Pro 伺服器的相關修改導致 unknown field usageMetadata 的錯誤訊息

Bug: 原本的對話忽然都沒有回應

image-20240503212535596

由於 Google Gemini 伺服器今天早上修改相關變動,但是 Golang 官方套件還無法來得及改動。 (https://github.com/google/generative-ai-go/issues/97)

導致我在 BwAI workshop ,政大與台北大學的授課中相關 LINE Bot 範例可能會無法順利取得回覆。

雖然官方正在解決相關問題,本篇文章將分享如何用另外的方式來先避開相關的問題。

狀況:

傳送文字問題,沒有回應。 但是發送照片卻是可以正確回覆,查看 log 會出現 unknown field usageMetadata 的錯誤訊息。

image-20240503213025527

影響專案:

相關被影響文章:

解決方式:

請記得更新最新版本程式碼,到你的 cloud function 將 function.go 替換掉之後重新 deploy 就可以了。

認真探討

根據 issue 97 主要問題出在 SendMessage 回來的資訊處理部分。

func main() {
	ctx := context.Background()
	client, err := genai.NewClient(ctx, option.WithAPIKey(os.Getenv("GEMINI_API_KEY")))
	if err != nil {
		log.Fatal(err)
	}
	defer client.Close()
	model := client.GenerativeModel("gemini-1.0-pro")
	cs := model.StartChat()

	msg := "hello"
	fmt.Printf("== Me: %s\n== Model:\n", msg)
	_, err = cs.SendMessage(ctx, genai.Text(msg))
	if err != nil {
		log.Fatal(err)
	}
}

Workaround

可以考慮將 StartChat() 換成原有的 model.GenerateContent(ctx, genai.Text(text)),但是會無法使用 cs.History = Memory 。 這時候可以透過

totalString := fmt.Sprintf("Memory:(%s), %s", string(jsonStr), req)
				res, err := model.GenerateContent(ctx, genai.Text(totalString))
				if err != nil {
					log.Fatal(err)
				}

將之前的討論資料,當成 Memory 放入 prompt 之內。作為處理的方式。後來發現成果也還不錯。

文章列表:

程式碼列表: