Inference.net 发 Schematron V2：3B 专用抽取模型，H100 吞吐 4.14 req/s

I

n

f

e

r

e

n

c

e

.

n

e

t

发

布

S

c

h

e

m

a

t

r

o

n

V

2

，

含

S

m

a

l

l

与

T

u

r

b

o

两

款

3

B

参

数

H

T

M

L

-

t

o

-

J

S

O

N

专

用

抽

取

模

型

。

T

u

r

b

o

在

单

张

H

1

0

0

上

吞

吐

4

.

1

4

请

求

/

秒

，

较

上

一

代

3

B

模

型

提

升

2

.

5

倍

；

S

m

a

l

l

在

复

杂

s

c

h

e

m

a

与

长

页

面

上

质

量

逼

近

上

一

代

8

B

模

型

（

L

L

M

-

a

s

-

J

u

d

g

e

评

测

4

.

0

6

0

对

4

.

0

7

0

）

。

两

款

共

享

1

2

8

K

t

o

k

e

n

上

下

文

与

严

格

J

S

O

N

模

式

（

1

0

0

%

s

c

h

e

m

a

合

规

输

出

）

，

经

I

n

f

e

r

e

n

c

e

平

台

微

调

训

练

，

权

重

暂

不

开

源

，

仅

经

s

e

r

v

e

r

l

e

s

s

A

P

I

提

供

；

旧

3

B

/

8

B

标

识

自

动

路

由

至

V

2

对

应

款

。

意

义

：

任

务

专

用

小

模

型

以

4

0

-

8

0

倍

价

差

逼

近

通

用

大

模

型

的

抽

取

质

量

，

验

证

「

小

模

型

+

专

用

训

练

」

在

结

构

化

数

据

管

线

的

性

价

比

路

线

。

原文链接：Inference.net 官方博客