ネットワーク上で利用可能な様々なデータや機能へのアクセス手段を提供するAPI基盤において、APIサービスの発見にLLMを活用する新たなアプローチを提案する。本研究では、APIとそのメタデータを知識ベースとして集約したRAGを構築し、ユーザからの質問に対してLLMベースの質問応答システムがRAG（Retrieval-Augmented Generation）を用いて課題解決に有用なAPIを発見する。また、APIメタデータの自動生成にもLLMを活用することで、アノテーション作成にかかる労力を大幅に削減する。このアプローチにより、形式的な記述に依存しない柔軟なAPIサービスの発見と組み合わせが実現可能となる。