144得票11回答
向S3对象追加数据

假设我有一台机器,我希望能够将数据写入存储在S3存储桶中的某个日志文件。 所以,机器需要具备向该存储桶写入数据的权限,但是我不希望它有覆盖或删除该存储桶中任何文件(包括我要写入的文件)的能力。 基本上,我只想让我的机器能够将数据追加到该日志文件中,而不覆盖或下载它。 有没有办法配置我的S...

33得票13回答
通过Amazon Kinesis Firehose流写入S3的数据如何读取?

我正在将记录写入Kinesis Firehose流,最终由Amazon Kinesis Firehose写入S3文件。我的记录对象看起来像ItemPurchase { String personId, String itemId } 写入 S3 的数据如下:{"personId...

32得票3回答
将AWS Kinesis Firehose中的Parquet格式数据写入AWS S3

我想将以parquet格式的数据从Kinesis Firehose导入S3。到目前为止,我只找到了一个需要创建EMR的解决方案,但我正在寻找更便宜和更快的方式,比如直接从Firehose将接收到的JSON存储为parquet,或者使用Lambda函数。 非常感谢, Javi。

30得票2回答
在通过AWS Kinesis Firehose插入Elasticsearch文档时,是否有一种手动设置文档ID的方法?

我已设置了一个AWS Kinesis Firehose流以将数据提供给AWS ElasticSearch集群,并且我可以通过将它们发送到Firehose流来成功插入文档,由此将其加载到ElasticSearch中。 但是,当发送文档到Firehose流时,我希望能够手动指定/设置文档的id值...

22得票2回答
创建API网关集成响应时出错:NotFoundException:指定的集成标识符无效。

目标 为问题提供解决方案或解决方法。 问题 如果提前单独创建Firehose,则Terraform API网关与Firehose的集成将正常工作。resource "aws_api_gateway_integration" "click_put" { rest_api_id = da...

21得票4回答
我能自动将换行符附加到AWS Firehose记录吗?

我正在尝试使用以下设置配置Kinesis Analytics应用程序: 输入流是一个Kinesis Firehose,它正在接收字符串化的JSON值 SQL是一个简单的pass-through(它需要更复杂的操作,但为了测试,它只是传递数据) 输出流是第二个Kinesis Firehose...

21得票6回答
我可以在将数据交付到S3之前自定义Kinesis Firehose中的分区吗?

我有一个Firehose流,旨在从不同来源和不同事件类型中摄取数百万个事件。该流应将所有数据传递到一个S3存储桶中,作为未经处理的原始数据。 我考虑根据嵌入在事件消息中的元数据,如事件源、事件类型和事件日期,在S3中对这些数据进行分区。 然而,Firehose遵循其默认的基于记录到达时间的分区...

20得票5回答
AWS Kinesis Firehose无法将数据插入Redshift

我试图使用Kinesis Firehose将数据推送到Redshift表中。 Firehose流正在工作并将数据放入S3。 但是目标表中没有任何数据到达Redshift。 在指标DeliveryToRedshift成功方面,值为0(DeliveryToRedshift记录为空) 负载日...

18得票4回答
Kinesis Firehose将JSON对象放入S3中,且没有分隔符逗号

在发送数据之前,我使用JSON.stringify将数据转换成以下格式{"data": [{"key1": value1, "key2": value2}, {"key1": value1, "key2": value2}]} 但是一旦它通过AWS API Gateway并且Kinesis F...

17得票1回答
ClassNotFoundException: com.amazonaws.ClientConfigurationFactory 是指在Java代码中找不到com.amazonaws.ClientConfigurationFactory类。

我使用AWS已经6个月了,开发了一个可以向firehose发送批量请求的应用。一直运行正常,但今天在本地系统上重新部署后出现了java.lang.ClassNotFoundException: com.amazonaws.ClientConfigurationFactory错误。我知道这个错误...