イベントレポート | 9/14開催みんなのPython勉強会#97 PostmanとAWSの例からHugging Faceのヤバさを思い知りました #stapy

はじめに

ヤバいよ、マジヤバいよ¹。nikkieです。

9月のみんなのPython勉強会のレポートです。
クラウドがテーマの回だったのですが、（スタッフ）参加後の私の脳内は「Hugging Faceがヤバい... ヤバいよ...」となってました

はじめに
目次
勉強会の概要
Postmanで始めるAI・機械学習プラットフォームHugging Face
強化学習基礎の基礎とAWS DeepRacerはじめの一歩
LT「ChatGPT in SlackでAI Slackbotを楽しく運用する」
拙LT「Pythonイベントインフォメーション（9月版）」
終わりに
P.S. 紹介された書籍

勉強会の概要

「みんなのPython勉強会」では、Pythonを中心としてプログラミングを仕事、研究、趣味など様々なシーンに生かす方法を一緒に学びます。
プログラマ、WEBエンジニアに限らず、初心者からマスターまで様々なレベルの、いろいろな分野の人が集まるので、「みんな」の勉強会です。お気軽にご参加ください。

9月は「クラウド技術の最前線」。
トーク2本 + LT2本で、トークの情報量がすごかったです

トーク
- 草薙さん『Postmanで始めるAI・機械学習プラットフォームHugging Face』
- Yukkiさん『強化学習基礎の基礎とAWS DeepRacerはじめの一歩』
LT
- iwamotさん「ChatGPT in SlackでAI Slackbotを楽しく運用する」
- nikkie「Pythonイベントインフォメーション（9月版）」

Postmanで始めるAI・機械学習プラットフォームHugging Face

本日の発表資料をアップロードしました #stapy
Postmanで始めるAI・機械学習プラットフォームHugging Facehttps://t.co/ijqtakZyVh
— 草薙昭彦 (@nagix) 2023年9月14日

Hugging FaceのInference API、ヤバくないですか！！

Hugging Faceは無数の機械学習モデルの共有に使われていますし、大LLM時代で日々新たなモデルが仲間入りしていますが、それらのモデルをAPI経由で簡単に試せる！！🙌

発表を聞きながらHugging Faceのアカウント作成・トークン生成をして叩いてみました。
上記ドキュメントのPythonコードを参考にしています（そして、こういったcurlコマンドはPostmanからも生成できるそうです）。

curl -s -H "Authorization: Bearer ${HF_TOKEN}" https://api-inference.huggingface.co/models/distilbert-base-uncased -d "The goal of life is [MASK]." | jq .
[
  {
    "score": 0.03619178757071495,
    "token": 8404,
    "token_str": "happiness",
    "sequence": "the goal of life is happiness."
  },
  {
    "score": 0.030553586781024933,
    "token": 7691,
    "token_str": "survival",
    "sequence": "the goal of life is survival."
  },
  {
    "score": 0.01697724126279354,
    "token": 12611,
    "token_str": "salvation",
    "sequence": "the goal of life is salvation."
  },
  {
    "score": 0.01669846847653389,
    "token": 4071,
    "token_str": "freedom",
    "sequence": "the goal of life is freedom."
  },
  {
    "score": 0.0152673264965415,
    "token": 8499,
    "token_str": "unity",
    "sequence": "the goal of life is unity."
  }
]

今回指定したのはdistilbert-base-uncased²。
curlとjqでNLP（fill-maskタスク）してる...
モデルのIDを変えれば他のモデルも叩き分けられます！

紹介された例

PostmanのUIから叩くと画像も表示できるのは便利ですね〜

草薙さんには過去にFunction callingとPostmanについてもLTしていただきました。
機械学習の推論にはPostmanも活用できるわけですね！

強化学習基礎の基礎とAWS DeepRacerはじめの一歩

（資料は公開されたら追加します）

Yukkiさんのトーク、小ネタを仕込みつつも本題がスルスル展開され、めちゃめちゃ情報量が多い一瞬でした👏

こちらの導入パートでもHugging Faceの話題が！

SageMakerで簡単にHugging Faceのモデルを扱える！！
自分が浦島太郎だったなと痛感しました

導入では、AWSコンソールでYukkiさんの絵を生成（誰だこいつ）というネタも挟まれたのですが、このUI、Stable Diffusion web UI⁴っぽい！
AWS使えばお金で手間を節約できるわけですね。

本題のDeepRacerは初めて聞きましたが、たしかに機械学習を学ぶのにうってつけだな〜という印象です

モノが動くから楽しそう
機械学習のエッセンスが学べそう
- 強化学習について
- 汎化（過学習）：他のコースでも通用する

YukkiさんのDeepRacerトーク #stapy

「強化学習は、褒めて育てる」
— nikkie にっきー (@ftnext) 2023年9月14日

積まれているものが増えてしまった〜

LT「ChatGPT in SlackでAI Slackbotを楽しく運用する」

本日のLT資料です。ありがとうございました！！ #stapy

ChatGPT in SlackでAI Slackbotを楽しく運用する - Speaker Deckhttps://t.co/bD3a9UreTG
— Takashi Iwamoto (@iwamot) 2023年9月14日

簡単にSlackにChatGPTを住まわせられそう！
試してみたいです

拙LT「Pythonイベントインフォメーション（9月版）」

みんな、行こう！

みんなのPython勉強会のLTをジャックしたPythonイベントインフォメーション（9月版）です #stapy https://t.co/KXIS1u19aA
・10/7のDjango Congress JP 2023（Djangoに関わる全ての人向け）
・10/26〜29、PyCon APAC 2023（4日間のPython祭り！）
どちらもチケット発売中！みんな、行こう！
— nikkie にっきー (@ftnext) 2023年9月14日

終わりに

2023年9月のみんなのPython勉強会のレポートでした。
Inference APIやDeepRacer、ChatGPT-in-Slackと、存在を知らなかったものを知れたのがめちゃめちゃありがたかったです。

Hugging Face、未来ずら〜🤗
Inference APIといい、datasetsやevaluateといった名前空間の取り方といい、めちゃめちゃ野心的ですよね

ご参加いただいた皆さま、発表者の皆さま、運営スタッフの皆さま、ありがとうございました。

P.S. 紹介された書籍

過去のヤバいよ例 ↩
先日ファインチューニングしました ↩
BERTについては2022年6月のstapyにリンクします！ ↩
かわいいを作るべく過去に環境構築しました ↩

nikkie-ftnextの日記

イベントレポートや読書メモを発信