We may earn an affiliate commission when you visit our partners.
Course image
津郷 晶也 and Growcite, Inc.

現代のビジネスシーンでは、データを効果的に活用することが求められています。

特に、ChatGPTが登場してから、自社データをチャット形式で検索するための仕組み開発が盛んになっています。

本講座ではそのような要求に応えられるようなチャット形式のデータマイニングツールの開発をテーマに学習していきます。

Read more

現代のビジネスシーンでは、データを効果的に活用することが求められています。

特に、ChatGPTが登場してから、自社データをチャット形式で検索するための仕組み開発が盛んになっています。

本講座ではそのような要求に応えられるようなチャット形式のデータマイニングツールの開発をテーマに学習していきます。

本講座では、情報検索の基本からCognitive Searchの基本、そしてPDFファイルを取り込むことをテーマにデータ取り込み処理の実践的な方法を学ぶことができます。

最終的には、LangChainとGPTを組み合わせた実用的なデータマイニング可能なチャットボットをハンズオンで開発していきます。

本講座を学習することで、データを効果的に活用して価値を生み出すシステムを開発するスキルを手に入れることができます。

やってみたいと思いながら、具体的な実装方法が思いつけていない方は、ぜひ一度、本コースを受講いただければと思います。

【概要】

基礎学習

  1. 情報検索システム概要

    1. 情報検索システム、情報検索エンジン

    2. フルテキスト検索(全文検索)の流れ、構成要素

    3. ベクトル検索

  2. Cognitive Search概要

    1. 基本機能

    2. SKU

    3. セキュリティ

    4. 監視/モニタリング

    5. 可用性、回復性

ハンズオン

  1. 全体アーキテクチャ

  2. データ取り込み処理(ETL処理)

    1. PDFファイル読み込み

    2. チャンク分割

    3. ベクトル変換(OpenAI の Embedding モデルを 利用)

    4. Cognitive Search へ登録

  3. Cognitive Search での検索

    1. フルテキスト検索(全文検索)

    2. ベクトル検索

  4. Webアプリの実装

    1. LangChainを使ってReActを実装(OpenAI の GPTモデル を利用)

    2. カスタムツールにCognitive Search を実装、組み込み

    3. LangChainの日本語化

    4. Azure上へデプロイ

【更新履歴】

v1.0.0 2023/12/05 初版リリース

Enroll now

What's inside

Syllabus

本講座の概要について学びます。

本講座の概要についてご紹介します。

本講座全体を通して学習する内容についてご紹介します。

本講座を受講するにあたり、対象とする受講生、前提知識、注意事項についてご案内します。

Read more

Azure OpenAI Service が利用できない場合の回避策として、OpenAI社のAPIを利用する方法について解説します。

2023年の Microsoft Ignite にて発表された内容の紹介です。

情報検索エンジンに関する概要、構成要素について学習します。

本セクションで学習する内容について確認します。

情報検索、ナレッジマイニングについて、どのような仕組みなのかその概要を学習します。

情報検索システムを構成する要素について、「データ登録」と「情報検索」の2観点から実行順に学習していきます。

ベクトル検索とはどのようなものなのか学習します。

Cognitive Search の概要について学習します。

Cognitive Search の基本機能、SKUについて学習します。

Cognitive Search の非機能、セキュリティ、監視/モニタリング、可用性、回復性について学習します。

Azure上に Cognitive Search をデプロイする演習を行います。

Azure上にデプロイした Cognitive Search の動作確認として、インデックス作成、データ登録、検索の一連の操作を行います。

この後に続くハンズオンで開発するシステムの全体アーキテクチャを確認します。

この後のセクションから始まるハンズオンで開発する情報検索システムの全体構成について学習します。

Cognitive Search へデータ取り込みす流れに従って、具体的な実装について学習します。

データ取り込み用のプロジェクトフォルダを作成します。

NodejsでPDFファイルを読み取る実装を行います。

作成したPDFファイル読み取りの実装を今後の開発で再利用できるようモジュール化します。

取り込んだテキストデータを変換処理に向けてフォーマット変更する実装を行います。

最初の変換処理として、長いテキストを分割(チャンク分割)する処理を実装します。

実装にはLangChainを利用します。

OpenAI の Embedding API について使い方を学習します。

Azure上にOpenAI Service をデプロイし、Embeddingモデルを作成します。

作成した Azure OpenAI Service の Embedding モデルの動作確認をします。

OpenAI社のEmbedding API のドキュメント場所をご紹介します。

テキストデータをベクトル値へ変換する処理を実装します。

ベクトル値の導出にはOpenAIのEmbeddingを利用します。

最終的に Cognitive Search へ登録するため、登録可能な形式にデータ形式を変更する実装を行います。

Cognitive Search のインデックス作成するAPIについて学習し、実際にインデックス作成を行います。

Cognitive Search のドキュメント登録に関するAPIについて学習し、実際に動作確認を行ってみます。

Cognitive Search の検索API(Search API)の利用可能バージョン番号についての情報です。

ここまでに学習したドキュメント登録APIを実際にNodejsで実行できるよう実装します。

テスト実行用に利用していたサンプルデータから、この後で実際に利用する本番用のデータに差し替えを行います。

データ投入したCognitive Searchに対してNodejsの実装を使って検索する方法を学習します。

Cognitive Search のドキュメント検索APIの使い方について学習します。

本セクションで演習を行うために必要となるプロジェクトフォルダを準備します。

Cognitive Search に対してフルテキスト検索を実行する操作をREST API で実行してみます。

Cognitive Search に対してフルテキスト検索を実行する操作をNodejsの実装で実行してみます。

Cognitive Search に対してベクトル検索を実行する操作をNodejsの実装で実行してみます。

これまでに準備したCognitive Searchを組み合わせたチャットアプリを開発します。

情報検索できるチャットアプリを開発するため、ひな型となるプロジェクトフォルダを準備します。

開発を進めるにあたり必要なミドルウェアを追加します。

Azure上の OpenAI Service に GPT モデル を追加します。

LangChainを使ってReActプロンプトを実装します。

このタイミングでツールは利用しないので、ここでは単純なチャットアプリを構築します。

以前のセクションまでに準備してきたCognitive Searchに対してLangChainから検索が行えるよう、カスタムツールを作成、LangChainのReActの中へ組み込みます。

LangChainは内部プロンプトが英語であるため、日本語化を行います。

Azure上に App Service をデプロイします。

デプロイ済みのAzure上の App Service に対して、ここまでに開発してきたアプリをデプロイし、Webアプリとして完成させます。

本講座のまとめです。

本講座の学習内容を振り返り、今後の学習に向けて指針となる情報を確認します。

ボーナスレクチャーです。

Good to know

Know what's good
, what to watch for
, and possible dealbreakers
本講座は、テクノロジーやビジネスシーンで活用できる最新の知識やツールを学ぶことができる。
データ活用や分析に興味があり、知識やスキルを向上させたい方におすすめである。
具体的な実装方法も学習することができるため、実務で活用する力が身につく。
チャット形式でのデータマイニングを実現するための、実践的なテクニックが学べる。
データ活用に関する基礎知識から、実際にシステムを開発するところまで幅広く学べる。
ただし、本講座は初心者向けではなく、ある程度のデータサイエンスやプログラミングの基礎知識があるとスムーズに理解できる。

Save this course

Save Azure OpenAI (GPT) と Cognitive Search で作る ナレッジマイニング チャットボット to your list so you can find it easily later:
Save

Activities

Be better prepared before your course. Deepen your understanding during and after it. Supplement your coursework and achieve mastery of the topics covered in Azure OpenAI (GPT) と Cognitive Search で作る ナレッジマイニング チャットボット with these activities:
Cognitive Searchの検索機能を練習する
Cognitive Searchの検索機能を練習することで、効率的に検索できるようになります。
Browse courses on Cognitive Search
Show steps
  • APIドキュメントを参照し、検索機能について理解する
  • Node.jsで検索機能を実装する
  • 実際のデータを使用して、検索結果を確認する
LangChainを使用したチャットボットの開発チュートリアルをフォローする
LangChainを使用したチャットボットの開発チュートリアルをフォローすることで、チャット形式のデータマイニングツールの開発スキルを習得できます。
Browse courses on LangChain
Show steps
  • LangChainのドキュメントを調査する
  • チュートリアルを見つけて、手順に従う
  • 実際にチャットボットを実装し、テストする
Show all two activities

Career center

Learners who complete Azure OpenAI (GPT) と Cognitive Search で作る ナレッジマイニング チャットボット will develop knowledge and skills that may be useful to these careers:
Data Scientist
"ナレッジマイニング チャットボット"を開発する本講座では、大量のデータを効果的に活用する方法を学びます。これは、Data Scientistが 日々行っている業務に直結しています。本講座を受講することで、膨大なデータを収集し、分析し、洞察を引き出し、ビジネス上の意思決定を支援するためのスキルを身につけることができます。
Data Engineer
本講座では、データ取り込み処理(ETL処理)やCognitive Searchの基本を学びます。Data Engineerは、データの収集、変換、ロードを担当しており、本講座で学ぶ知識は不可欠です。また、本講座では、検索に必要なインデックスを作成し、データを登録する方法も学ぶので、Data Engineerとして活躍する上で役立ちます。
Machine Learning Engineer
本講座では、OpenAIのGPTモデルやベクトル検索を活用した、ナレッジマイニングチャットボットの開発をハンズオンで行います。Machine Learning Engineerは、機械学習モデルの開発や導入に従事しており、本講座で学ぶ知識は役立ちます。特に、自然言語処理やベクトル検索の基礎を学ぶことで、機械学習モデルの精度向上に貢献できます。
Software Engineer
本講座では、Webアプリの開発やAzure上へのデプロイを行います。Software Engineerは、ソフトウェアの設計、開発、保守に従事しており、本講座で学ぶ知識は役立ちます。特に、チャットボットの開発やクラウドコンピューティングの基礎を学ぶことで、ソフトウェアエンジニアとして活躍する上で役立ちます。
Data Analyst
本講座では、情報検索システムの概要やCognitive Searchの基本を学びます。Data Analystは、データの収集、分析、レポートの作成に従事しており、本講座で学ぶ知識は役立ちます。特に、情報検索の基礎を学ぶことで、より効率的にデータを分析し、レポートを作成できます。
Information Architect
本講座では、情報検索システムの概要やCognitive Searchの基本を学びます。Information Architectは、情報構造の設計や管理に従事しており、本講座で学ぶ知識は役立ちます。特に、情報検索の基礎を学ぶことで、より効果的な情報構造を設計できます。
UX Designer
本講座では、Webアプリの開発やAzure上へのデプロイを行います。UX Designerは、ユーザーエクスペリエンスの設計に従事しており、本講座で学ぶ知識は役立ちます。特に、チャットボットの開発やクラウドコンピューティングの基礎を学ぶことで、ユーザーフレンドリーなUXを設計できます。
Product Manager
本講座では、ナレッジマイニングチャットボットの開発を行います。Product Managerは、製品の企画や開発に従事しており、本講座で学ぶ知識は役立ちます。特に、チャットボットの開発やユーザーニーズの理解を学ぶことで、より革新的な製品を企画できます。
Business Analyst
本講座では、情報検索システムの概要やCognitive Searchの基本を学びます。Business Analystは、ビジネス要件の分析やドキュメント化に従事しており、本講座で学ぶ知識は役立ちます。特に、情報検索の基礎を学ぶことで、より効果的にビジネス要件を分析できます。
Technical Writer
本講座では、情報検索システムの概要やCognitive Searchの基本を学びます。Technical Writerは、技術的なドキュメントの作成に従事しており、本講座で学ぶ知識は役立ちます。特に、情報検索の基礎を学ぶことで、より分かりやすい技術ドキュメントを作成できます。
Librarian
本講座では、情報検索システムの概要やCognitive Searchの基本を学びます。Librarianは、図書館資料の管理や提供に従事しており、本講座で学ぶ知識は役立ちます。特に、情報検索の基礎を学ぶことで、より効果的に図書館資料を管理できます。
Archivist
本講座では、情報検索システムの概要やCognitive Searchの基本を学びます。Archivistは、歴史的記録の収集や保存に従事しており、本講座で学ぶ知識は役立ちます。特に、情報検索の基礎を学ぶことで、より効果的に歴史的記録を管理できます。
Museum curator
本講座では、情報検索システムの概要やCognitive Searchの基本を学びます。Museum Curatorは、博物館資料の管理や展示に従事しており、本講座で学ぶ知識は役立ちます。特に、情報検索の基礎を学ぶことで、より効果的に博物館資料を管理できます。
Knowledge Manager
本講座では、ナレッジマイニングチャットボットの開発を行います。Knowledge Managerは、組織内の知識の管理に従事しており、本講座で学ぶ知識は役立ちます。特に、チャットボットの開発やナレッジマイニングの基礎を学ぶことで、より効果的に組織内の知識を管理できます。
Information Security Analyst
本講座では、情報検索システムの概要やCognitive Searchの基本を学びます。Information Security Analystは、情報セキュリティの管理に従事しており、本講座で学ぶ知識は役立ちます。特に、情報検索の基礎を学ぶことで、より効果的に情報セキュリティを管理できます。

Reading list

We've selected five books that we think will supplement your learning. Use these to develop background knowledge, enrich your coursework, and gain a deeper understanding of the topics covered in Azure OpenAI (GPT) と Cognitive Search で作る ナレッジマイニング チャットボット.
Introduction to Information Retrieval classic textbook that provides a comprehensive introduction to the field. It covers a wide range of topics, including text representation, retrieval models, and evaluation methodologies.
Artificial Intelligence for Beginners gentle introduction to the fundamentals of artificial intelligence, including machine learning, deep learning, and natural language processing.
Deep Learning with Python provides a practical introduction to deep learning, a subfield of machine learning that uses artificial neural networks to learn from data.
Natural Language Processing with PyTorch provides a practical guide to using PyTorch for natural language processing tasks such as text classification, named entity recognition, and machine translation.

Share

Help others find this course page by sharing it with your friends and followers:

Similar courses

Here are nine courses similar to Azure OpenAI (GPT) と Cognitive Search で作る ナレッジマイニング チャットボット.
【Stripe決済実践】Next.jsとSupabaseで動画レッスン販売アプリを作りながらStripeを学ぶ実践講...
Most relevant
ディープラーニング : Pythonでゼロから構築し学ぶ人工知能(AI)と深層学習の原理
Most relevant
LangChainによる大規模言語モデル(LLM)アプリケーション開発入門―GPTを使ったチャットボットの実装まで
Most relevant
【フォーム開発実践】認証やお問い合わせフォームをNext.js/RHF/zod等のモダン技術を使って開発する実践講座
Most relevant
BERTによる自然言語処理を学ぼう! ...
Most relevant
【初心者向け】直感的にわかる!Arduino(アルディーノ)で初めての電子工作 / デジタル回路設計 の基礎を学ぼう
Most relevant
ChatGPTのAPIで5つのアプリを作ってみよう!JSON生成、属性抽出、独自文書Q&A、SQL生成、AIエージェ...
Most relevant
TOEIC...
Most relevant
Analyzing and Visualizing Data in Looker 日本語版
Most relevant
Our mission

OpenCourser helps millions of learners each year. People visit us to learn workspace skills, ace their exams, and nurture their curiosity.

Our extensive catalog contains over 50,000 courses and twice as many books. Browse by search, by topic, or even by career interests. We'll match you to the right resources quickly.

Find this site helpful? Tell a friend about us.

Affiliate disclosure

We're supported by our community of learners. When you purchase or subscribe to courses and programs or purchase books, we may earn a commission from our partners.

Your purchases help us maintain our catalog and keep our servers humming without ads.

Thank you for supporting OpenCourser.

© 2016 - 2024 OpenCourser