跳到正文
热点事件观察中

ttok 1.0 发布,默认分词器切至 GPT-5/GPT-6

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Simon Willison 发布 ttok 1.0,将默认 tokenizer 从 GPT-4 切换为 GPT-5/GPT-6。 Willison 称,OpenAI 尚未确认 GPT-6 与 GPT-5 系列使用同一分词器,相关 issue 中有人对此不满;他引用 William Liu 的一次实验提交称,七个 GPT 模型(5.5、5.6 Sol/Terra/Luna、6 Astra/Sol/Luna)均报告 44,794 个 token,并在全部 31 个测试样本上彼此一致,因此这些分词器很可能相同。

AI 根据报道生成 · 13 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. Simon Willison
    Simon Willison 发布 ttok 1.0,默认 tokenizer 从 GPT-4 切换至 GPT-5/GPT-6

    Simon Willison 发布 ttok 1.0,将默认 tokenizer 从 GPT-4 切换为 GPT-5/GPT-6。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。