CJ/HERESEARCH INTO REALITYEN

值得探索的问题

理解系统。检验边界。

我的研究关注模型行为揭示的信息,以及明确的假设如何帮助评估人工智能系统。

交互讲解01 / 05
用户输入物品输入

用户与物品通过不同的塔生成嵌入表示。

当前观察用户与物品嵌入
区分两种输入,两个塔
示意演示 · 非实测坐标或在线模型

一个具有现实意义的问题。

推荐系统的输出能否揭示某人的记录是否参与了训练?ALOA 研究双塔神经网络中的成员推断。

从模型行为到数据边界。

另一个互补的问题是:下游计算究竟需要接收什么?Elementization 通过明确的能力范围和独立的评估维度探索这一问题。

了解 Elementization
继续探索

想法的下一步。