LLM App on Actcast」のアプリ設定画面例

本アプリのデモ動画：https://youtu.be/w71xEeEK4n4

■開発背景

社会におけるデータ処理の需要増加に伴い、クラウド負荷軽減やプライバシー保護への関心が高まり、その解決策としてエッジAIへの注目が集まっています。
企業がAIをビジネスに導入する際、一般的には導入前にPoCを実施します。そしてPoCを開始する際、PoC用のAIをはじめとしたソフトウェア開発が必要となります。この開発取り組みにおいて、ビジネス導入に向けた価値や効果の検証よりも、機械学習モデルの精度向上などに注力してしまう傾向がありました。本来は十分な検討の必要な本導入やその後の検証サイクルといった運用を見越した検証に進めないままPoCが終わってしまうため、本格導入の判断に至らないままプロジェクトが頓挫してしまうことが多く発生していました。
こうした課題を解決するために、当社は「LLM App on Actcast」を開発しました。初期投資が必要だったPoC用ソフトウェアをプロンプトエンジニアリングで代替することで、AI開発よりも先に、最低限の手間とコストで、本来最も重要なビジネス価値の検証にフォーカスすることが可能になります。

「LLM App on Actcast」で実現するフロー

■「LLM App on Actcast」概要

「LLM App on Actcast」はクラウド上のLLMを活用し、エッジAIプラットフォーム「Actcast」と連携したエッジデバイスで利用できるアプリケーションです。プロンプトエンジニアリングにより疑似的なアプリ設計を行うことができます。提供開始時点では、OpenAI社の「ChatGPT」などのクラウドLLMのAPIを用いて、エッジデバイスで撮影した画像に対する推論を行います。
Actcastの機能により、プライバシーに配慮したPoCが容易に可能です。また、大量のデバイスも遠隔で管理・運用でき、プロンプトも対象デバイスをグループごとに個別に適用可能です。

＜利用イメージ＞
例えば、小売業界において、店舗責任者が遠隔で店舗の状況を確認したい場合、店内のエッジデバイス（AIカメラ）が撮影した画像をもとに、下図のような入力・出力を得ることができます。

「LLM App on Actcast」を使ったプロンプトと出力のイメージ

当社は今後、「LLM App on Actcast」を活用した課題解決を図るためにパートナー企業様との協業を拡大し、様々な領域におけるエッジAIの社会実装を推進してまいります。

＊「LLM App on Actcast」を開発した背景などに関するさらに詳しい情報は、当社CTO山田によるブログ記事をご覧ください。
ブログタイトル：「LLM App on Actcast」開発の背景
URL：https://www.idein.jp/ja/blog/20240528-llm-app-actcast

■エッジAIプラットフォーム「Actcast」について

Actcastは、AIソリューション開発企業向けのプラットフォームサービスです。AIソリューションの社会実装に共通して必要なインフラ部分にActcastをご利用いただくことで、AIカメラやAIマイクなどを活用した様々なAIサービスの「低価格・迅速・大規模」な導入を実現します。

＜「Actcast」のその他の特長＞
・カメラ、マイク、温度計などを搭載したセンシングデバイスを使用して、リアル空間のあらゆる情報を収集・活用できます
・リモートで大量のデバイスの管理・運用ができます
・登録台数は累計で16,000台を超えており、本導入・大規模運用の実績が豊富にあります
・170社を超える様々な業界のパートナー企業と強固なエコシステムを形成しています
・エッジAIは必要最低限の情報だけをクラウドへ送るため、プライバシー・機密情報に配慮しながら利用できます
・高度なAI解析を小型で安価な汎用デバイスで実行できるため、デバイスのコストを大幅に削減できます
・Idein独自の高速化技術により、AIモデルを軽量化することなく最先端のAI解析ができます

■Idein株式会社 概要
安価な汎用デバイス上での深層学習推論の高速化を実現した、世界にも類を見ない高い技術力を有するスタートアップです。当該技術を用いたエッジAIによる現場データ収集プラットフォーム「Actcast」を開発し、実用的なAI/IoTシステムを開発・導入・活用する開発者及び事業会社へのサービス提供を行っております。今後もパートナー企業と共に、AI/IoTシステムの普及に貢献してまいります。「実世界のあらゆる情報をソフトウェアで扱えるようにする」をミッションに掲げ、日本国内では経済産業省 J-Startup選定をはじめ、日本経済新聞社 NEXTユニコーン企業にも選ばれています。英Arm社のAI Partnerや、米NVIDIA社のInception Program Partnerに選定されるなど、海外でも高く評価いただいています。

【設立日】 2015年4月7日
【代表者】 代表取締役 中村 晃一
【所在地】 東京都千代田区神田神保町1-4-13
【事業内容】 Actcast事業（エッジAIプラットフォームの開発・運営）、共同研究開発事業（次世代自動車開発での協業等）
コーポレートサイト： https://www.idein.jp