Coinbase CEO:Coinbaseは現在、一部のプロンプトをより低コストのモデルにルーティングしています。
7x24h 速報
Coinbase CEO:Coinbaseは現在、一部のプロンプトをより低コストのモデルにルーティングしています。
CoinbaseのCEOブライアン・アームストロング氏は、今後12~18か月の間に、人工知能(AI)のワークロードの80%が、コストが99%低いモデル上で実行されるようになると述べました。残り20%のワークロードは、引き続き最新世代のモデルに依存することになります。アームストロング氏は、業界のボトルネックは、モデルそのものではなく、エネルギーと計算能力(算力)に多く見られると指摘しています。また、Coinbaseは、プロンプトを必要に応じてより低コストのモデルへルーティングする取り組みを進めているほか、トークン使用量が継続的に指数関数的に増加する中で、一部のユースケースにおいてコストを概ね一定に維持することを目指しています。
TechFlowより、6月8日、Coinbaseの最高経営責任者(CEO)であるブライアン・アームストロング氏は、今後12~18か月の間に、人工知能(AI)のワークロードの80%がコストが99%削減されたモデル上で実行されるようになる可能性があると述べました。一方、残り20%のワークロードは引き続き最新世代のモデルに依存するとの見解を示しました。アームストロング氏は、業界におけるボトルネックは、モデルそのものではなく、むしろエネルギーと演算能力(コンピューティングパワー)に多く現れると指摘しています。また、Coinbaseは、プロンプトを必要に応じてより低コストなモデルへルーティングする取り組みを進めているほか、トークン使用量が継続的に指数関数的に増加する状況においても、一部のユースケースではコストを概ね安定させることを目指していると述べています。




