IMPACT NASAとIBMが科学研究のためのLLM INDUSの開発に協力

ジャカルタ - NASAの下で働く学際的研究開発チーム(IMPACT)は、INDUSを作成するために国際ビジネスマシーンズ(IBM)と協力しました。統合ニューラルディスカウンスシステムの略語であるINDUSは、地球科学、生物学および物理学、天体物理学などに関連する科学的データを分析するために設計された主要な言語モデル(LLM)です。このモデルは、さまざまなソースからキュレーションされた科学的データを使用して訓練され、モデル、すなわちエコーダーと文チェンジャーの2種類を生成しています。NASAは、エコーダーはさまざまなデータを含む600億のトークンで訓練されていると説明しました。エンコーダーは、自然言語テキストをLL

「小型で高速なバージョンでは、神経構造検索を使用してモデルアーキテクチャとノウハウ精製を取得し、より大きなモデル監督でそれらを訓練します」とBhattacharjee氏は述べています。一方、NASAのBPSオープンサイエンスのプロジェクトマネージャーであるシルバーンコステスは、INDUSがNASAがチャットボットの開発とテストを支援できると述べました。このLLMは、オープンサイエンスデータリポジトリ(OSDR)APIに統合されます。「私たちは、INDUSを活用してキュレーションチームの生産性を向上させ、毎日必要な手動の努力を減らすことにより、OSDR内部キュレーションデータシステムを改善する方法を模索しています」と