TechFlow ニュース、6 月 30 日、The Information の報道によると、ある事情通は、今月初め、OpenAI のエンジニアが一部の同僚に対し、いくつかの新たに開発された最適化技術に基づき、モデル推論コストを半分以上削減できる解決策を見出したと伝えたことを明かした。エンジニアはこの新技術を、無料または有料アカウントを持たない訪問者が ChatGPT を使用するシナリオに適用した後、必要な NVIDIA グラフィックプロセッサ(GPU)の数を一時わずか数百個まで抑えた。
お気に入りに追加
SNSで共有




