$tumblingWindow
定义
$tumblingWindow
阶段指定用于聚合数据的 滚动窗口。Atlas Stream Processing 窗口是有状态的,可以在中断后恢复,并具有处理延迟到达的数据的机制。您必须在该窗口阶段中将所有其他聚合查询应用于流数据。
$tumblingWindow
$tumblingWindow
管道阶段采用以下原型形式:{ "$tumblingWindow": { "interval": { "size": <int>, "unit": "<unit-of-time>" }, "pipeline" : [ <aggregation-stage-array> ], "offset": { "offsetFromUtc": <int>, "unit": "<unit-of-time>" }, "idleTimeout": { "size": <int>, "unit": "<unit-of-time>" }, "allowedLateness": { size: <int>, unit: "<unit-of-time>" } } }
语法
$tumblingWindow
阶段采用包含以下字段的文档:
字段 | 类型 | 必要性 | 说明 |
---|---|---|---|
| 文档 | 必需 | 以大小和时间单位的组合形式指定跳跃窗口间隔的文档,其中:
例如, |
| 阵列 | 必需 | 根据窗口内的消息对嵌套聚合管道进行评估。 |
| 文档 | Optional | 指定窗口边界相对于 UTC 的时间偏移的文档。 该文档是大小字段
例如, |
| 文档 | Optional | 该文档指定
如果设置 例如,考虑12 : 00下午 到1 : 00下午 窗口和 |
| 文档 | Optional | 文档,用于指定在处理窗口结束时间的文档后,将从源生成的窗口保持开放状态多长时间以接受延迟到达的数据。如果省略,则默认值为 3 秒。 |
行为
Atlas Stream Processing 仅支持每个管道一个窗口阶段。
当您将$group
阶段应用于窗口阶段时,单个组密钥的 RAM 限制为100 MB。
在 Windows 中,对某些聚合阶段的支持可能会受到限制或不可用。要了解更多信息,请参阅支持的聚合管道阶段。
如果服务中断,您可以从中断点的状态恢复窗口的内部管道。要了解更多信息,请参阅检查点。
示例
流数据源从不同位置生成详细的天气报告,符合示例天气数据集的模式。以下聚合分为三个阶段:
$source
阶段与Apache Kafka代理建立连接,在名为my_weatherdata
的主题中收集这些报告,并在将每条记录摄取到后续聚合阶段时将其公开。$tumblingWindow
阶段定义了持续时间为 30 秒的连续窗口。每个窗口都执行一个内部pipeline
,用于查找该窗口持续时间的平均值、中位数、最大值和最小值atmosphericPressureObservation.altimeterSetting.value
。然后,pipeline
会输出一个文档,_id
等同于其所表示的窗口的开始时间戳以及该窗口的指定值。$merge
阶段将输出写入sample_weatherstream
数据库中名为stream
的 Atlas 集合。如果不存在此类数据库或集合,Atlas 会创建它们。
{ '$source': { connectionName: 'sample_weatherdata', topic: 'my_weatherdata', tsFieldName: 'ingestionTime' } }, { '$tumblingWindow': { interval: { size: 30, unit: "second" }, pipeline: [{ $group: { _id: "$_stream_meta.window.start", averagePressure: { $avg: "$atmosphericPressureObservation.altimeterSetting.value" }, medianPressure: { $median: { input: "$atmosphericPressureObservation.altimeterSetting.value", method: "approximate" } }, maxPressure: { $max: "$atmosphericPressureObservation.altimeterSetting.value" }, minPressure: { $min: "$atmosphericPressureObservation.altimeterSetting.value" } } }] } }, { '$merge': { into: { connectionName: 'weatherStreamOutput', db: 'sample_weatherstream', coll: 'stream' } } }
要查看生成的 sample_weatherstream.stream
集合中的文档,请连接到您的 Atlas 集群并运行以下命令:
db.getSiblingDB("sample_weatherstream").stream.find()
{ _id: ISODate('2024-09-26T16:34:00.000Z'), _stream_meta: { source: { type: 'kafka' }, window: { start: ISODate('2024-09-26T16:34:00.000Z'), end: ISODate('2024-09-26T16:34:30.000Z') } }, averagePressure: 5271.47894736842, maxPressure: 9999.9, medianPressure: 1015.9, minPressure: 1015.9 }, { _id: ISODate('2024-09-26T16:34:30.000Z'), _stream_meta: { source: { type: 'kafka' }, window: { start: ISODate('2024-09-26T16:34:30.000Z'), end: ISODate('2024-09-26T16:35:00.000Z') } }, averagePressure: 5507.9, maxPressure: 9999.9, medianPressure: 1015.9, minPressure: 1015.9 }
注意
以上是一个有代表性的示例。流数据不是静态的,每个用户看到的都是不同的文档。