nuget server logo nuget api documents
↑

API Docs / Microsoft.VisualBasic.DeepLearning.LLM

Microsoft.VisualBasic.DeepLearning.LLM 1.0.9762.11310.

Namespaces 15 Types 45 Members 586

01 Namespaces

Microsoft.VisualBasic.DeepLearning.LLM

TypeSummary Members
AdamW AdamW：解耦权重衰减的 Adam 优化器。 14
CausalSelfAttention 因果自注意力层：y = Concat(head_1..head_H) · Wo， 其中 head_h = softmax(Q_h K_hᵀ/√d_k + mask) V_h。 20
ConstrainedDecoder 按 JSON Schema 约束 logits 的解码器：保证生成的参数对象在语法上必然合法。 25
KVCache 单层的 K/V 缓存：预分配 [maxSeq, nKvHeads, headDim]，按位置顺序追加。 17
LLMBlock 单层解码块：Pre-Norm 的"因果自注意力 + 前馈网络（稠密或 MoE）"。 21
LLMModel 纯 decoder-only 的语言模型：词嵌入 + 若干 LLMBlock + 末端 RMSNorm + 绑定输出层。 35
LLMModelConfig LLM 的结构超参。 25
LLMTensorOps LLM 模块共用的张量工具与手写反向算子。 15
MoELayer DeepSeekMoE：细粒度专家分割 + 共享专家隔离 + Sigmoid Top-K 路由 + 无辅助损失负载均衡。 29
ParameterSet 与一组参数张量绑定的优化器状态集合。 15
RmsNorm RMSNorm 归一化层（Pre-Norm 用法）。 11
RotaryEmbedding RoPE 旋转位置编码：预计算 cos/sin 表，并按绝对位置对最后两维做旋转。 9
SwiGLUFeedForward SwiGLU 前馈网络：y = (SiLU(x·Wg) ⊙ (x·Wu)) · Wd。 15

Microsoft.VisualBasic.DeepLearning.LLM.Agent

TypeSummary Members
AgentLoop 多轮工具调用循环：模型负责"想"，框架负责"做"。 9
AgentLoopOptions Agent 循环的超参。 8
AgentRound 工具循环中的一轮。 14
AgentRunResult 一次完整 Agent 会话的结果。 9

Microsoft.VisualBasic.DeepLearning.LLM.Agent.ToolCalls

TypeSummary Members
JsonSchema 工具参数的 JSON Schema（对象型）。 11
JsonSchemaProperty 工具的一个参数（JSON Schema 的 property）。 10
ToolCall 一次工具调用的解析结果。 5
ToolCallProtocol 工具调用协议的标记常量与编解码工具。 42
ToolDefinition 一个已注册的工具：名称 + 说明 + 参数 schema + 真实实现。 5
ToolRegistry 工具注册表：承载"外部代码执行解析"职责。 8

Microsoft.VisualBasic.DeepLearning.LLM.CausalSelfAttention

TypeSummary Members
Cache 前向传播的中间量缓存，供反向传播使用。 22

Microsoft.VisualBasic.DeepLearning.LLM.ConstrainedDecoder

TypeSummary Members
JsonState 状态机的内部状态。 11
Snapshot 状态机的可回滚快照 —— token 合法性是"试探性推进"，失败必须能还原。 0

Microsoft.VisualBasic.DeepLearning.LLM.Generator

TypeSummary Members
GenerationOptions 生成超参。 5
GenerationResult 一次生成的结果（含性能与路径信息）。 11
TextGenerator 把模型与采样器组合成"给定 prompt 生成后续 token"的循环。 5

Microsoft.VisualBasic.DeepLearning.LLM.LLMBlock

TypeSummary Members
Cache 前向传播的中间量缓存，供反向传播使用。 18

Microsoft.VisualBasic.DeepLearning.LLM.LLMModel

TypeSummary Members
ForwardCache 一次训练前向的中间量，供反向使用。 14

Microsoft.VisualBasic.DeepLearning.LLM.MoELayer

TypeSummary Members
Cache 前向传播的中间量缓存，供反向传播使用。 22
RouteInfo 每次前向路由统计的快照。 12

Microsoft.VisualBasic.DeepLearning.LLM.ParameterSet

TypeSummary Members
Entry 单个参数的登记项：名称 + 参数张量 + 它的 AdamW 状态。 4

Microsoft.VisualBasic.DeepLearning.LLM.RmsNorm

TypeSummary Members
Cache 前向传播的中间量缓存，供反向传播使用。 6

Microsoft.VisualBasic.DeepLearning.LLM.Sampler

TypeSummary Members
LLMSampler 采样器：把 logits 变成概率分布，再按配置选出一个 token。 6
SamplingConfig 采样超参。 11

Microsoft.VisualBasic.DeepLearning.LLM.SwiGLUFeedForward

TypeSummary Members
Cache 前向传播的中间量缓存，供反向传播使用。 8

Microsoft.VisualBasic.DeepLearning.LLM.Text

TypeSummary Members
ITextCodec 文本与 token 之间的编解码接口。 4
TokenizerVocabulary 词表的文本视图：把 token id 映射回它实际贡献的文本，并建立首字符倒排索引。 10
TokenStream 自回归 token 流：持有上下文与缓存，按需给出下一个位置的 logits。 9

Microsoft.VisualBasic.DeepLearning.LLM.Trainer

TypeSummary Members
LMBatch 一个训练批次：等长的若干条 token 序列（展平存放）+ 逐位置的损失掩码。 8
LMTrainer 语言模型训练器：把"前向 → 掩码交叉熵 → 反向 → 裁剪 → AdamW → MoE 均衡"串成一个训练步。 12
TrainingConfig 训练超参。 7
TrainingStepReport 一个训练步的结果报告。 9