2017年6月8日 星期四

Google Cloud Vision 學習筆記 2

安裝 Client library

這裡有介紹如何安裝你的語言版本的library

我用的是python,所以在command line 下:
pip install --upgrade google-cloud-vision

就會自動安裝了。

(2017/6/6) 等等,這個架構可以玩玩,但我是想要裝在RPi 上的,可是這個架構並沒有RPi 的 Google Cloud SDK. 只有for X86 linux, macOS 和 windows ⋯⋯ 
(2017/6/7) 找到一個 demo了,原來不一定要用Google Cloud SDK. 用API 就可以了。快來參考這篇。

安裝後,你會發現下面的範例是需要安裝 Google Cloud SDK,依照你的系統(我是用Mac),下載合適的SDK,再執行它的 install 檔。 然後 執行 gcloud init 來設定你的帳號和預設專案(project),若需要,可以再開一個 Google compute Engine API。依其範例,應該是用Google Compute Engine 來執行,因為後來我看 API 管理員的主頁,只有 Google Compute Engine API 有流量,Google Cloud Vision API 完全沒流量。
而且,請記得將SDK 安裝在~ 下,我之前放在 virtualenv 或其它目錄,執行gcloud 都會出現問題,搞了我好久。

安裝好 SDK 後,回到 Cloud Vision API Client Libraries 的說明,要再執行認證:
gcloud auth application-default login
這樣就差不多了。
然後 copy 以下檔案到你電腦裡的目錄:

C#

GO

JAVA

NODE.JS

PHP

PYTHON

RUBY

import ioimport os # Imports the Google Cloud client library from google.cloud import vision # Instantiates a client vision_client = vision.Client() # The name of the image file to annotate file_name = os.path.join(     os.path.dirname(__file__),     'resources/wakeupcat.jpg') # Loads the image into memory with io.open(file_name, 'rb') as image_file:     content = image_file.read()     image = vision_client.image(         content=content) # Performs label detection on the image file labels = image.detect_labels() print('Labels:') for label in labels:     print(label.description)
Read more in the Python API Reference Documentation for the Google Cloud Vision API Client Library.

其中 __file__ 會帶出你目前的檔案路徑,所以你的圖檔要放在你目前路徑下的 resources 目錄裡,至於圖檔名,就隨便你取。

再 執行此python 檔,就可以看到輸出的Json 結果。
基本上就是Google Vision 會判斷你的圖檔內容大概是什麼,可能性的機率有多高等等的。




2017年6月5日 星期一

Google Cloud Vision 學習筆記 1

與其自己重新學習影像辨識和AI,不如直接站在巨人的肩膀上⋯⋯

先從 Google 提供的 5 分鐘 quickstart 來學。

以Quickstart 的介紹,要透過Vision API 來使用 Google cloud vision,要透過下列三步驟:


  • 建立 Cloud Storage 空間。Creating a Cloud Storage bucket.
  • 將你的照片上傳至建立的Cloud Storage 並設定為公開。Uploading your image to Cloud Storage and making it public.
  • 以照片來向Vision API 要求辨識。Making a request to the Vision API with that image.

照Google 的說法,上述步驟約要5分鐘的時間,可以建立一個 5GB 的免費儲存空間,並且每個月可丟 1000次以內的免費辨識服務要求。

在開始建立Google Storage 之前,要先在Google Platform Console 建立一個專案。
1. 到專案頁面,建立一個新的專案。我先建立一個叫 Cloud-Vision-test 的專案名稱,但Google 的回應有點慢,它跳到所有專案的頁面,卻沒看到剛建立的 Colud-Vision-test 專案名稱。我馬上再建一個新的,當它refresh 完頁面後,才發現重覆建立了。所以專案建立的按鈕按下後,要稍等一下。
2. 啟動計費功能。可能我之前已啟動,所以畫面直接跳到專案內容畫面。
3. 啟動Cloud Vision API. 中間欄有API 的選項,點選後會出現Google Cloud Platform 的所有 API,利用Filter 的方式,輸入 vision ,就可以看到Cloud Vision API。點選後會出現下列圖片。

然後點選啟用,就會出現目前此 API 的使用情形。但因為我們還沒有任何使用,所以畫面呈現出的都是空值。

接下來建立 Cloud Storage bucket。
1. 在 Cloud Platform Console 裡,連到 Cloud Storage 畫面。
2. 點選「建立bucket」。

3. 在建立 bucket 的對話畫面中,設定以下屬性:

  • 名稱:可以任意指定,但因為bucket 的資料是公開的,如果你的名稱內含機密資訊,那可能會被其他人看到。所以我用內建的名稱就好,內建的不會選一個和別人一樣的吧。
  • 儲存級別:文件是建議選用 Milti-Regional。但我看了級別的說明,Multi-Regional 是適合需要經常跨國存取的資料,又說可用來串流播放影片及代管熱門網路內容。但我只是要用自己上傳的影片,可是Regional 又只提到可用來儲存資料及執行資料分析,不知能否上傳圖片。我先試試Regional 了好。
  • Regional 位置:如果選用 Multi-Regional , 那 Regional位置只有 亞洲、歐盟和美國可以選,可能它會直接放在這幾個地區的不同storage site 吧。但如果是選 Regional, 則可以選 上述三洲的不同地區。亞洲有asia-east1, asia-northeast1 和 asia-sourtheast1 可選。台灣的位置有點尷尬,所以我直接選 asia-northeast1
4. 點選建立。

建立對 Cloud Vision API 服務的要求

1. 下載 他建議的 demo-image.jpg
2. 開啟 Cloud Platform Console Storage Brower, 選定 bucket, 然後點選上傳檔案,並選擇剛剛下載的 demo-image.jpg 來上傳。
3. 上傳檔案後,畫面會出現已上傳的通知,並且在畫面上呈現出已上傳的檔案列表。在我們剛上傳的 demo-image.jpg 後䤏有個「公開共用」的選項,將其點選。
4. 透過以下的程式範例,來執行 Vision API 請求。 將其中的 image.source.imageUri 的 bucket 字眼改成你剛才在bucket 內建立的名稱和圖片檔名,再按下EXECUTE後,不出一秒的時間,就會得到 AI 辨識後的 JSON 結果檔。
5. 執行結果如下:


搞定!!!

清除

為了避免無謂的被Google Cloud Platform 扣款(可能你自己不自覺地測試超過1000次),所以 Google 也很貼心的建議你,如果測試完後,就把用不到的 bucket 砍了。夠貼心吧。

後記
上傳了幾個自己的圖檔去辨識,好像都沒能辨識出來⋯⋯


2017年5月9日 星期二

Docker 學習筆記 - Part 2

事前準備:

  • 安裝 Docker 1.13 以上版本
  • 讀過 Part 1
  • 確定你的環境,並執行 docker run hello-world

介紹:

我們可以開始用docker 的方式來建立我們的程式。 首先我們要建立container, 好讓我們的程式在上面跑。再container 上面的app, service , service, stack , 以後的章節再介紹。

  • Stack
  • Services
  • Container (我們目前在此階段)

我的新開發環境:

以往我們要開放一支新的程式,如 Python 程式,首先必需在電腦上安裝 Python 開發環境。但這會造成你在你的主機裡建立一個你在開發 python 程式時所需的環境,但程式移到server 時,就可以跑你寫出的程式嗎?

透過 Docker,你可以只安裝 python 執行環境 包成一個 image,而不需再重新安裝一次python 環境。而且,你的image 也可以包含你開發的app,確定你的程式,和其相依套件,都可以一起包進image 內。 這種 可攜式的image, 就稱作 Dockerfile。

用 Dockerfile 來定義一個 container

Dockerfile 用來定義你想要你的container 內是什麼樣的環境,存取在這image 環境內的虛擬化的主機資源(如網路介面和磁碟檔案),因為已經被隔離在主機外了,所以你必需自己去對映 port 到外面的世界(有點像網路的 pat 或 nat)。並指定你想要把檔案 copy 進你的container 環境裡。做完後,你就可以期待你的程式在 Dockerfile內設定好而建立的docker 內,順利執行了,拿去那裡,都可以順利執竹。

Dockerfile

先建立一個空的目錄,然後把以下內容建立成一個檔案名稱叫Dockerfile 的檔案。#代表註解。

# Use an official Python runtime as a base image
FROM python:2.7-slim

# Set the working directory to /app
WORKDIR /app

# Copy the current directory contents into the container at /app
ADD . /app

# Install any needed packages specified in requirements.txt
RUN pip install -r requirements.txt

# Make port 80 available to the world outside this container
EXPOSE 80

# Define environment variable
ENV NAME World

# Run app.py when the container launches
CMD ["python", "app.py"]

這個 Dockerfile 裡面有兩個我們還沒建立的東西,即 app.py 和 requirements.txt。


app 本身

上述兩個檔案也要放在和Dockerfile同一個目錄內。這樣就可以完成我們app 的環境,簡單吧。 當上述的 Dockerfile 被建立到 image 內後,app.py 和 requirements.txt 都會被包含在內,因為Dockerfile 使用 ADD 指令。而從 app.py的輸入則可以透過HTTP來讀取,因為我們在 Dockerfile內用了EXPOSE。
from flask import Flask
from redis import Redis, RedisError
import os
import socket

# Connect to Redis
redis = Redis(host="redis", db=0)

app = Flask(__name__)

@app.route("/")
def hello():
    try:
        visits = redis.incr('counter')
    except RedisError:
        visits = "<i>cannot connect to Redis, counter disabled</i>"

    html = "<h3>Hello {name}!</h3>" \
           "<b>Hostname:</b> {hostname}<br/>" \
           "<b>Visits:</b> {visits}"
    return html.format(name=os.getenv('NAME', "world"), hostname=socket.gethostname(), visits=visits)

if __name__ == "__main__":
 app.run(host='0.0.0.0', port=80)

然後我們可以看到 在 Dockerfile 內有一行 pip install requirements.txt 安裝了 Flask 和 Radis 的Python 函式庫。而我們的app 程式列出環境變數 NAME, 當它執行到 docker.gethostname()會用到。最後,因為 Redis 無法執行(我們只是將它的 python 函式include進來,而非 Redis 程式),所以我們會得到一個錯誤訊息,而無法再繼續程式。


來建立 app 吧

好了!你不需要在你的主體主機裡安裝python 或 requirements.txt裡的東西,也不需要建立或安裝這個image 在你的主體主機裡。看來雖然好像你還沒建立好 Python 和 Flask 的環境,但實事上你已經建好了。
我們ls 一下看看:

$ ls
Dockerfile              app.py                  requirements.txt

OK, 我們要開始建立我們的image 了。我們會用參數 -t 來建立一個 image 的名字。

docker build -t friendlyhello .
那建立出來的image 放在那呢?它會被docker 放在 你主體主機的 Docker image registry 指定的位置裡。用下列指令就可以知道 你的image 有那些:


$ docker images

REPOSITORY            TAG                 IMAGE ID
friendlyhello         latest              326387cea398


執行app

要執行我們的 app.py 要先把 主體主機的 port 4000 用 -p 對映到 image 內 EXPOSE 的 port 80 :


docker run -p 4000:80 friendlyhello
其中-p  指要做 port mapping , 其中 4000 指 主體主機的 port 位,80 指 container 的 port 位,中間用 : 冒號隔開。按 Ctrl-C 離開container。
OK,那接下來我們用 -d 讓我們的app 在背景執行:


docker run -d -p 4000:80 friendlyhello
然後畫面會出現一長串的 CONTAINER ID,然會就回到你的主體主機畫面。現在,我們剛做的container 已經在背景執行了。你可以用 docker ps 來看看你有那些container 正在執行。


$ docker ps
CONTAINER ID        IMAGE               COMMAND             CREATED
1fa4ab2cf395        friendlyhello       "python app.py"     28 seconds ago
現在我們可以用 docker stop 來中止我們的程式。


分享你的image

registry 是 repositories 的集合,而repository 是 image 的集合。而 registry 上的 account 可以建立許多的 repository。docker command line interface 指令 就是預設的 docker公用 registry。

如果你己經有了 Docker account, 登入 cloud.docker.com。

docker login
畫面會要求你輸入你在 cloud.docker.com 建立的帳密。
現在,我們就可以上傳我們做的image了。 在我們電腦裡的image 含在 registry 上的 repository 的表示式用 username/repository:tag ,其中 :tag 是選擇性的,但建議還是輸入,一般是用來表示這個image 的版本。

docker tag friendlyhello username/repository:tag

可以上傳了:

docker push username/repository:tag
上傳完之後,我門就可以在任何有裝docker 的電腦上,執行下列指令來啟動 我們剛裝的 image,當然,前題是要能上網。如果你沒下 :tag 指令,那它會找最新的,即它會自動加上 :latest 的tag.
現在,用你的流灠器看一下 localhost:4000 ,看是不是有正確的 hello, World 會出現。

2017年5月8日 星期一

Google Assistant 服務 在 RPi or Mac 上的應用

GooglePi

在網路上看到這篇文章,覺得很有興趣,Google Cloud 提供了$300 鎂 的免費試用,因此可以來試試。原本我還在學習圖型辨識,但我想最近AI 越來越強,自己也不是這領域的專家,與其重新學習去當巨人,不如直接站在巨人的肩頭上,看能不能當個巨人肩頭上的寄生蟲。
這裡有官方網頁的教學說明,更清楚:Overview

照著實作

第一步:啟動你的 RPi3

第二步:在Google Cloud 上設定 Google Assistant API

申請完 Google Clound後,首先新增一個專案
然後在Google Could Platform 上 選取 「API 管理員」裡的 「資訊主頁」
點選 在資訊主頁裡有項 「啟用API」


點選後,它會跳到 「API管理員」的 「資料庫」頁面,在搜尋欄裡,輸入「google assistant」,就可以看到 Google 自動幫你在它提供的100多個API 裡 filte 出來。 直接點選下面 filte 出來的 「Google Assistant API」
會看到頁面上針對 「Google Assistant API」的介紹與說明,然後點選頁面上的「啟用」
上面說明 「Google Assistant API」它使用的是 OAuth 2.0 的方式來存取使用者資料,因為它需要存取我們輸入給它的語音資料,因此需要授權。
點選 「OAuth 同意畫面」,如果沒有這個畫面,那先點選到「資料庫」,再點選「憑證」,應該就會有了。

點選「建立憑證」裡的 「OAuth 用戶端ID」
選擇「其它」,名稱用 google-assistant-rpi3, 或你自己取一個。
然後按 「建立」。

你應該就會得到下列畫面:
按下「確定」後,就可以看到你新建立的憑證。

然後點選右方的下載,將憑證存到你的電腦上。

至此,在google 的部分就設定完成了。

第三步:在RPi 上設定 Google Assistant(不過我是在Mac上設定)

首先設定 Python 的 虛擬環境。真的很神奇,現在連程式語言都提供虛擬環境讓你測試,避免像我這種初學者把環境弄得亂七八糟,搞不回來。虛擬環境搞亂了,就刪掉重來就好。

在mac 下,用home-brew 下載 portaudio 模組
然後啟用python虛擬環境,我用的是 virtualenv , 你可以看到 它會新建立一個叫 myenv 的環境:



之後就可以啟動我們的虛擬環境了⋯⋯

你會看到前面的提示符號多了一個 (myenv),即表示我們已經進入虛擬環境內。
接下來就可以安裝 Google Assistant SDK

切換到 ./myenv/bin 下,可以看到已經有兩個googlesamples 的 程式:

googlesamples-assistant 和 googlesamples-assistant-auth

同時把剛才的憑證一併copy 到這裡來
接下來,我們要用 googlesamples-assistant-auth 程式來先做憑證認證。

你會發現程式少了 google.auth 模組,再安裝 google.auth 模組:

再驗證一次憑證:
又少了 requests 模組,再來裝 requests 模組:
再驗證一次憑證:
還少了 google_auth_oauthlib 模組⋯⋯
再來裝 它 :
再驗證一次憑證:
還是少了 click 模組⋯⋯
再來裝它:

再驗證一次憑證:

你的browser 會跳出驗證的確認畫面:

點選你要啟用的帳號,然後再「同意」即完成認證。

Browser 畫面會變成:

同時  terminal 會回到提示符號。
差不多,我們就可以試試看,記得將你的RPi或電腦接上麥克風和喇叭。
然後執行 googlesamples-assistant:

唉⋯⋯還是少了 tenacity 模組,再來裝一下:
再來執行 googlesamples-assistant:
又少了 sounddevice 模組,相信我,這是最後一個我們缺的模組了⋯⋯

用力給它執行下去吧 googlesamples-assistant:

哈哈哈哈⋯⋯
終於可以囉~
這時,你只要按下 「enter」,然後對著Mic 說你要問的東西,Google Assistant 就會從喇叭回應囉⋯⋯可惜的是,它並不懂台語或中文。
至此己完全成功,如果你聽到它回應:
“Actually there are some basic settings that need your permission first. Just go into the Google Home app for details.”
那表示你的 google 帳號並沒有授權google 取用你的「聲音和語音活動」的權限,連到 Google Account Activity Controls 去啟動,就可以正常了。


謝謝參與。