JAWS-UG AI支部 #2 re:Invent アップデート
1 like883 views
JAWS-UG AI支部 #2 re:Invent アップデート
- 1. 1 JAWS-AI re:Inventアップデート 2016年12月9日 アマゾン ウェブ サービス ジャパン株式会社 ソリューションアーキテクト 松尾康博
- 2. 2 Who am I ? • 名前 – 松尾康博 • 所属 – アマゾンウェブサービスジャパン株式会社 – ソリューションアーキテクト – 製造業のHPC、CAE、ビッグデータ解析等を主に担当 • 経歴 – 九州大学でスパコンの効率化研究 – SIerで 分散キューの開発・導入、分散処理研究 – Web系スタートアップCTO – SIerで仮想化基盤の研究・導入・運用 – 現職
- 5. 5 Amazon 画像検索 & 音声検索 http://www.gizmodo.jp/2015/07/_amazon_1.html
- 6. 6 クラウド上で音声認識能力を継続的に改善し、インター フェースとして活用 Alexa, play Bruno Mars from Prime Music （ブルーノ・マーズの曲をかけてく ださい) Alexa, turn on the lights (ライトをつけてください)
- 8. 8
- 9. 9 開催概要 • AWSの世界最大のカンファレンス • 「学習型カンファレンス」であることが 特徴で、参加者が自ら学ぶための機会を 多数ご用意 – 2016年11月29日-12月2日 – ラスベガスの3カ所のホテルにて • ベネチアン(本会場) • アンコール(サブ会場) • ミラージュ(サブ会場) – 30,000人以上の参加者 – 日本から700名以上のお客さまがご参加
- 10. 10 コンテンツ • 基調講演と新サービス発表 • 450以上のセッション • スペシャルナイトイベント • ブートキャンプ&ハッカソン • re:Invent Central(展示ブース) • AWS認定試験&ラウンジ • セルフペースドラボ • 様々なイベント – ウェルカムレセプション、パブクロール、 re:Playパーティなどの各種エンターテイン メントも盛りだくさん
- 11. 11 キーノート by Andy Jassy
- 12. 12 キーノート by Werner Vogels
- 13. 13 GameDay
- 14. 14 ブレイクアウトセッション
- 16. 16 ハンズオンラボ&ラウンジ
- 17. 17 ブートキャンプ
- 18. 18
- 19. 19 Machine Learning Session at re:Invent 2016 https://www.portal.reinvent.awsevents.com/connect/search.ww#loadSearch- searchPhrase=MAC3+MAC2+MAC4&searchType=session&tc=0&sortBy=abbreviationSort&p=
- 21. 21 Amazon Rekognition Deep learning-based image recognition service Search, verify, and organize millions of images Object and Scene Detection Facial Analysis Face Comparison Facial Recognition
- 22. 22 Amazon Rekognitionを発表 • 深層学習の技術を利用した画像認識のマ ネージドサービス • 学習済みモデルを利用して、画像の「状 況」「人物の顔」「物体」を検出 • S3に格納した画像に対して解析を行うこと で、マッチする状況や物体名を受け取れる • バージニア、オレゴン、アイルランドの リージョンで利用可能。月5,000回の認識 と年間1,000個の顔ベクトル情報まで無料 利用枠の対象となり、以後従量課金制 ※動作イメージ Apple!! https://aws.amazon.com/rekognition/ https://aws.amazon.com/jp/blogs/news/amazon-rekognition-image-detection-and-recognition-powered-by-deep-learning/
- 24. 24 Amazon Rekognition - Deep Learning Process Conv 1 Conv 2 Conv n … … Feature Maps Labrador Dog Beach Outdoors Softmax Probability Fully Connected Layer
- 25. 25 Amazon Pollyを発表 • フルマネージド型の”Text-to-speech”機能を提供 する新サービス。APIを利用して文章をPollyに渡す と音声ストリームまたはファイルの形式で音声化 • 24の言語、47種類のボイス（男性、女性）に対応。 日本語もサポートしている • プロ声優による音声。Pollyで出力された音声デー タは自由に利用できる • バージニアとオレゴン、アイルランド、オハイオ のリージョンでプレビュー提供を開始 Open the pod bay door please, HAL. Open the pod bay door please, HAL. https://aws.amazon.com/polly/ https://aws.amazon.com/jp/blogs/news/polly-text-to-speech-in-47-voices-and-24-languages/
- 26. 26 Amazon Pollyを発表 • 料金体系は従量課金 – 5,000,000文字までは無料 – 以後、1文字あたり$0.000004 • 英語の場合、一般的に1分の音声出力で概ね $0.004くらいの課金になる
- 27. 27 Polly – Language Portfolio Americas: • Brazilian Portuguese • Canadian French • English (US) • Spanish (US) A-PAC: • Australian English • Indian English • Japanese EMEA: • Danish • Dutch • British English • French • German • Icelandic • Italian • Norwegian • Polish • Portuguese • Romanian • Russian • Spanish • Swedish • Turkish • Welsh • Welsh English
- 28. 28 Text and Speech Language Understanding Speech Recognition Natural Language Understanding Powered by the same Deep Learning technology as Alexa
- 29. 29 Amazon Lexを発表 • 音声またはテキストメッセージに応答するチャッ トボット開発を容易にするサービス。Amazon Alexaと同等の自然言語エージェントを開発可能に • 自然言語の入力を解析しその意味合いに応じたア プリケーションコードを実行することにより、 ユーザとのインタラクションを実現 • バージニアリージョンでプレビュー中。10,000テ キストと5,000音声の入力まで利用開始から1年間 は無料。以後1,000テキストあたり$0.75、1,000 音声あたり$4.00となる • https://aws.amazon.com/lex/ https://aws.amazon.com/jp/blogs/news/amazon-lex-build-conversational-voice-text-interfaces/
- 30. 30 Amazon Lexを発表
- 31. 31 Mobile Hub SaaS Connector Amazon API Gateway AWS Lambda Amazon API Gateway AWS Lambda Mobile Hub Custom Connector Business Application Firewall Mobile App Amazon Lex Enterprise SaaS Connectors with Mobile Hub AWS Lambda
- 32. 32 AWSで機械学習
- 33. 33 • NVIDIA K80を最大16GPU搭載 • 計192GBのGPUメモリと 約40,000 CUDAコアを搭載 • 1台で70TFlops(単精度浮動小数点演算)を実現 • 1台で23TFlops(倍精度浮動小数点演算)を実現 • GPUDirect™によるpeer-to-peer 接続をサポート Instance Name GPU Count vCPU Count Memory Parallel Processing Cores GPU Memory Network Performance P2.xlarge 1 4 61GiB 2,496 12 GiB High P2.8xlarge 8 32 488GiB 19,968 96 GiB 10 Gigabit P2.16xlarge 16 64 732GiB 39,936 192 GiB 20 Gigabit ＜インスタンスサイズ＞ GPU搭載：P2インスタンス https://aws.amazon.com/jp/blogs/news/new-p2-instance-type-for-amazon-ec2-up-to-16-gpus/ バージニア・オレゴン・アイルランド の3リージョンで提供中
- 34. 34 C5インスタンスを発表(2017年予定) • コンピューティング最適化 C4の後継として、 SkylakeコアのXeonを搭載したC5を発表 • 前世代のHaswell(C4に搭載)と比較して、 AVX-512命令セットが利用可能で機械学習や マルチメディア、科学技術計算などに最適 • 6種類のサイズを提供し、 最大で72vCPU、144GBメモリを搭載 • Elastic Network Adaptor(ENA)をサポートし、 EBS最適化オプションがデフォルトで有効 C5 AWSブログ：EC2インスタンスタイプのアップデート – T2, R4, F1, Elastic GPUs, I3, C5 https://aws.amazon.com/jp/blogs/news/ec2-instance-type-update-t2-r4-f1-elastic-gpus-i3-c5/
- 35. 35 F1インスタンスを発表(開発者プレビュー開始) • FPGAを搭載し高性能計算用途に最適なF1を発表 • Intel Xeon E5-2686v4(2.3GHz, Turbo mode対応)と 1個から8個のFPGA(Xilinx UltraScale+ VU9P)、最大 976GBメモリ、4TBのNVMe接続のSSDを利用可能 • 開発/テスト用AMIも提供。パッケージ化したAmazon FPGA Image(AFI)はAWS Marketplaceに公開可 • サンプルアプリケーションなどはF1 Hardware Development Kit(HDK)として提供 • バージニアリージョンにて開発者プレビューを開始。 他リージョンへの展開も準備中 F1 AWSブログ：開発者プレビュー ー EC2 Instances (F1) with Programmable Hardware https://aws.amazon.com/jp/blogs/news/developer-preview-ec2-instances-f1-with-programmable-hardware/
- 37. 37 NVIDIA製AMI https://aws.amazon.com/marketplace/seller-profile?id=c568fe05-e33b-411c-b0ab-047218431da9 • Windows Server + Driver • CUDA7.5 + Amazon Linux • DIGITS4 + Ubuntu 14.04 • etc.
- 38. 38 AWS製AMIも https://aws.amazon.com/marketplace/pp/B01M0AXXQB?qid=1475211685369&sr=0-1&ref_=srh_res_product_title プリインストール済み • MXNet • Caffe • Tensorflow • Theano • Torch ※要CUDAインストールCUDA込みAMI出ました
- 39. 39 Deep Learning AMIは随時更新中 ※Oregon Region ※2016/12/6時点
- 40. 40 MXNet at AWS
- 42. 42 MXNetとは • オープンソース – Apache-2 ライセンス • 発祥 – ワシントン大学、カーネギーメロン大学 • サポートモデル – Convolutional Neural Networks (CNN) – Long Short-Term Memory (LSTM) • スケーラブル – 線形にスケールし、学習モデルを高速に作成 • 多くの言語に対応 – Scala, Python, R等。 Sparkとの連携も容易 • エコシステム – 産学に多くのコミュニテイ http://mxnet.io/ https://github.com/dmlc/mxnet
- 43. 43 MXNet への AWSの投資 • 開発ツール – AMIやCloudFormationテンプレートにより、モデル学習の開発・可視化を早く • ドキュメント – 多くのユースケース、ハウツー等に対応するドキュメント • 移行ツール – Caffeやその他フレームワークからの移行ツール、Kerasとの連携ツール • エコシステム – ワークショップ、パートナー、ブログ、AWSサービスと連携したアーキテク チャの公開
- 47. 47
Editor's Notes
- #5: アマゾンでも、宅配の自動化でのDrone、エージェント機能をもつecho、気軽に買い物ができるDashというもをだしており、IoTを使った様々なチャレンジを行っており、また、IoTプラットフォームを提供している2lemetryという会社を買収しております。
- #7: “ Alexa play Bruno Mars from Prime Music” “Alexa, turn on the lights” “ Alexa, order an Echo dot” Echoの根本はクラウド上の音声認識エンジンであるAlexa クラウド上にあるが故に、 a)音声認識自体が向上する b)様々なデバイスに展開できる c)3rd partyのデベロッパーが機能を追加できる デバイスの広がりもあるし、更にSkillの広がりもある
- #22: Introducing Amazon Rekognition - a fully managed deep learning based image recognition service. Rekognition was designed from the get-go to run at scale. It comprehends scenes, objects, concepts and faces. Given an image, it will return a list of labels. Given an image with one or more faces,it will return bounding boxes for each face, along with face attributes. Given two images with faces, it will compare the largest face from the source image and find similarity with faces found in the tagret image. Rekognition provides quality face recognition at scale, and supports creation of collection of millions of faces and search of similar faces in the collection. Now lets dive into each of these features and look at the API that support these features.
- #23: アップルじゃなくても、元の画像に入っている物体をパイナップルでもペンでも認識するというイメージです。
- #25: Several architectures such as convolutional deep neural networks (CNNs), and recurrent neural networks have been applied to computer vision.
- #28: 10min. On this slide we present languages offered by Amazon Polly so 24 languages. Regions marked with orange on this map are regions where one of our languages is commonly used so those are regions where you can dleiver your app using Amazon Polly.
- #30: Alexa あlexあ てきな
- #31: 左の絵はコンソールの画面。旅行の予約や命令応答といったプリセットからボットを作れる。 上側の絵で会話からピックアップするキーワード等を設定して、右下の画面でボットの動作詳細を設定します。
- #32: API Gateway benefits: Caching and Throttling Call the API with non-Lex interface App can directly call API gateway as well
- #35: 利用可能になったら別途ご案内