Docs 菜单
Docs 主页
/
MongoDB Atlas
/ /

$tumblingWindow

在此页面上

  • 定义
  • 语法
  • 行为
  • 举例

$tumblingWindow阶段指定用于数据聚合的滚动窗口。 Atlas Stream Processing 窗口是有状态的,中断后可恢复,并具有处理迟到数据的机制。您必须在此窗口阶段将所有其他聚合查询应用于流数据。

$tumblingWindow

$tumblingWindow 管道阶段采用以下原型形式:

{
"$tumblingWindow": {
"interval": {
"size": <int>,
"unit": "<unit-of-time>"
},
"pipeline" : [
<aggregation-stage-array>
],
"offset": {
"offsetFromUtc": <int>,
"unit": "<unit-of-time>"
},
"idleTimeout": {
"size": <int>,
"unit": "<unit-of-time>"
},
"allowedLateness": {
size: <int>,
unit: "<unit-of-time>"
}
}
}

$tumblingWindow 阶段采用包含以下字段的文档:

字段
类型
必要性
说明
interval
文档
必需

跳跃窗口的间隔指定为大小和时间单位的组合的文档,其中:

  • size的值必须是非零正整数。

  • unit的值必须是以下值之一:

    • "ms" (毫秒)

    • "second"

    • "minute"

    • "hour"

    • "day"

例如, 20size和 {3 unit second将每个窗口设置为保持打开状态20秒。

pipeline
阵列
必需
根据窗口内的消息对嵌套聚合管道进行评估。
offset
文档
Optional

指定窗口边界相对于 UTC 的时间偏移的文档。 该文档是大小字段offsetFromUtc和时间单位的组合,其中:

  • offsetFromUtc的值必须是非零正整数。

  • unit的值必须是以下值之一:

    • "ms" (毫秒)

    • "second"

    • "minute"

    • "hour"

例如, 8offsetFromUtc和 {3 unit hour会生成比 UTC 提前八小时的边界。 如果不指定偏移量,窗口边界将与 UTC 对齐。

idleTimeout
文档
Optional

该文档指定 $source 空闲时关闭Windows之前的等待时间。 将此设置定义为时间sizeunit的组合,其中:

  • size的值必须是非零正整数。

  • unit的值可以是以下值之一:

    • "ms" (毫秒)

    • "second"

    • "minute"

    • "hour"

    • "day"

如果设置 idleTimeout,则仅当 $source 空闲的时间超过剩余窗口时间或 idleTimeout 时间(以较长者为准)时, Atlas Stream Processing才会关闭打开的Windows 。 只要$source进入空闲状态,空闲计时器就会启动。

例如,考虑12 : 00下午 到1 : 00下午 窗口和idleTimeout时间2小时。 如果最后一个事件发生在下午12 : 02 ,之后$source进入空闲状态,则剩余窗口时间为58分钟。 Atlas Stream Processing 会在下午2 : 02空闲2小时后关闭窗口,该时间长于剩余窗口时间和idleTimeout时间。 如果idleTimeout时间仅设置为10分钟,则 Atlas Stream Processing 会在下午1 : 00空闲58分钟后关闭窗口,该时间长于idleTimeout时间,并且剩余窗口时间。

allowedLateness
文档
Optional
文档,指定在窗口结束时间处理文档后,源生成的窗口保持打开状态多长时间以接受晚到数据。如果省略,则默认为3秒。

Atlas Stream Processing 仅支持每个管道一个窗口阶段。

当您将$group阶段应用于窗口阶段时,单个组密钥的 RAM 限制为100 MB。

Windows 中对某些聚合阶段的支持可能有限或不可用。要了解更多信息,请参阅支持的聚合管道阶段。

如果发生服务中断,您可以将窗口的内部管道从中断时的状态恢复。要了解更多信息,请参阅检查点。

流数据源从不同位置生成详细的天气报告,符合样本天气数据集的模式。以下聚合分为三个阶段:

  1. $source阶段与 Apache Kafka 建立连接 代理在名为my_weatherdata 的主题中收集这些报告,并在将每条记录摄取到后续聚合阶段时将其公开。

  2. $tumblingWindow阶段定义持续时间为30秒的连续窗口。每个窗口都执行内部pipeline ,查找该窗口持续时间的平均值、中位数、最大值和最小值atmosphericPressureObservation.altimeterSetting.value 。然后, pipeline输出单个文档,其中的_id等于其表示的窗口的开始时间戳,以及该窗口的指定值。

  3. $merge阶段会将输出写入sample_weatherstream数据库中名为stream的 Atlas 集合。如果不存在此类数据库或集合,Atlas 会进行创建。

{
'$source': {
connectionName: 'sample_weatherdata',
topic: 'my_weatherdata',
tsFieldName: 'ingestionTime'
}
},
{
'$tumblingWindow': {
interval: {
size: 30,
unit: "second"
},
pipeline: [{
$group: {
_id: "$_stream_meta.window.start",
averagePressure: { $avg: "$atmosphericPressureObservation.altimeterSetting.value" },
medianPressure: {
$median: {
input: "$atmosphericPressureObservation.altimeterSetting.value",
method: "approximate"
}
},
maxPressure: { $max: "$atmosphericPressureObservation.altimeterSetting.value" },
minPressure: { $min: "$atmosphericPressureObservation.altimeterSetting.value" }
}
}]
}
},
{
'$merge': {
into: {
connectionName: 'weatherStreamOutput',
db: 'sample_weatherstream',
coll: 'stream'
}
}
}

要查看生成的sample_weatherstream.stream集合中的文档,请连接到您的 Atlas 集群并运行以下命令:

db.getSiblingDB("sample_weatherstream").stream.find()
{
_id: ISODate('2024-09-26T16:34:00.000Z'),
_stream_meta: {
source: { type: 'kafka' },
window: {
start: ISODate('2024-09-26T16:34:00.000Z'),
end: ISODate('2024-09-26T16:34:30.000Z')
}
},
averagePressure: 5271.47894736842,
maxPressure: 9999.9,
medianPressure: 1015.9,
minPressure: 1015.9
},
{
_id: ISODate('2024-09-26T16:34:30.000Z'),
_stream_meta: {
source: { type: 'kafka' },
window: {
start: ISODate('2024-09-26T16:34:30.000Z'),
end: ISODate('2024-09-26T16:35:00.000Z')
}
},
averagePressure: 5507.9,
maxPressure: 9999.9,
medianPressure: 1015.9,
minPressure: 1015.9
}

注意

以上是一个具有代表性的示例。流数据不是静态的,每个用户看到的都是不同的文档。

后退

$ skippingWindow