トークン課金
文字でも、時間でも、呼び出し回数でもなく、「トークン」という単位で払う。二〇二〇年六月に招待制で開いたOpenAIのAPIから始まり、いまはどのAI会社も同じ数え方をしています。値段は下がり続けました。二〇二二年にDavinciが千トークン六セントから二セントへ、翌年のgpt-3.5-turboは〇.〇〇二ドル。桁がひとつずつ落ちていきます。この型が従量課金の歴史の中で新しいのは、二つの点です。ひとつは、単位が利用者に数えられないこと——ゼロックスが数えさせた「コピー一枚」と違い、トークンは文章を機械が切り分けた内部の単位です。もうひとつは、見えないところに課金されること。考えるモデルが内部で書く下書き(推論トークン)にも、同じ単価がかかります。結果ではなく過程に払う——一九五九年の複写機から続く「使った分だけ」の川が、ここで初めて、目に見えないものを数えはじめました。ちなみに個人向けは月二十ドルの定額です(二〇二三年二月〜)。同じ商品を、法人には従量で、個人には定額で売る——この二階建ては、この地図のあちこちで見た形でもあります。
神話の訂正
AIのAPIは、最初から「千トークンいくら」の従量課金だった
始まりは月額と超過料金の組み合わせでした。二〇二〇年の公開当初は月百ドルで二百万トークンが込み、超えたぶんが千トークンあたり八セント——いまのような素直な従量制に整理されたのは、そのあとです。いちばん新しい商売でも、値づけの形は一度で決まりませんでした。