AWS Python Lambda函数 - 将文件上传到S3

Question

我有一个用Python 2.7编写的AWS Lambda函数，我想要实现以下功能：

1）从HTTP地址获取一个.xls文件。

2）将其存储在临时位置。

3）将该文件存储在S3存储桶中。

我的代码如下：

from __future__ import print_function
import urllib
import datetime 
import boto3
from botocore.client import Config

def lambda_handler(event, context):

    """Make a variable containing the date format based on YYYYYMMDD"""
    cur_dt = datetime.datetime.today().strftime('%Y%m%d')

    """Make a variable containing the url and current date based on the variable
    cur_dt"""
    dls = "http://11.11.111.111/XL/" + cur_dt + ".xlsx"
    urllib.urlretrieve(dls, cur_dt + "test.xls")

    ACCESS_KEY_ID = 'Abcdefg'
    ACCESS_SECRET_KEY = 'hijklmnop+6dKeiAByFluK1R7rngF'
    BUCKET_NAME = 'my-bicket'
    FILE_NAME = cur_dt + "test.xls";

    data = open('/tmp/' + FILE_NAME, 'wb')

    # S3 Connect
    s3 = boto3.resource(
        's3',
        aws_access_key_id=ACCESS_KEY_ID,
        aws_secret_access_key=ACCESS_SECRET_KEY,
        config=Config(signature_version='s3v4')
    )

    # Uploaded File
    s3.Bucket(BUCKET_NAME).put(Key=FILE_NAME, Body=data, ACL='public-read')

然而，当我运行这个函数时，我收到以下错误：

“IOError：[Errno 30]只读文件系统”

。我已经花了几个小时来解决这个问题，但是我一直没有成功。希望能得到帮助。

- pol_guy

---

如果某个答案对您有帮助，通常会在其旁边打勾，将其标记为已接受的解决方案。 - The Unknown Dev

Answer 1

'IOError: [Errno 30] Read-only file system'

您似乎缺少写入访问权限。如果您的Lambda有其他策略，请尝试将此策略附加到您的角色:

arn:aws:iam::aws:policy/AWSLambdaFullAccess

它也具有对S3的完全访问权限，以防您无法在存储桶中写入。如果解决了您的问题，之后可以删除一些权限。

- Sébastien Coste

---

你搞定了！！！我将IAM设置为Lambda只读访问。谢谢！！！ - pol_guy

Answer 2

我已经将图片上传到了s3 Bucket。在“Lambda测试事件”中，我创建了一个JSON测试事件，其中包含要上传到s3 Bucket的图像的BASE64和图像名称。Lambda测试JSON事件如下所示 ======>

            { 
                "ImageName": "Your Image Name",
                "img64":"BASE64 of Your Image"
            }

以下是上传图像或任何文件到S3的代码：======>

import boto3
import base64
def lambda_handler(event, context):
    s3 = boto3.resource(u's3')
    bucket = s3.Bucket(u'YOUR-BUCKET-NAME')
    path_test = '/tmp/output'         # temp path in lambda.
    key = event['ImageName']          # assign filename to 'key' variable
    data = event['img64']             # assign base64 of an image to data variable 
    data1 = data
    img = base64.b64decode(data1)     # decode the encoded image data (base64)
    with open(path_test, 'wb') as data:
        #data.write(data1)
        data.write(img)
        bucket.upload_file(path_test, key)   # Upload image directly inside bucket
        #bucket.upload_file(path_test, 'FOLDERNAME-IN-YOUR-BUCKET /{}'.format(key))    # Upload image inside folder of your s3 bucket.
    print('res---------------->',path_test)
    print('key---------------->',key)

    return {
            'status': 'True',
       'statusCode': 200,
       'body': 'Image Uploaded'
      }

- Suraj Kulkarni

---

嘿，为什么要使用base64呢？比原始二进制更容易压缩和处理吗？ - DtechNet

那时候我们的使用情况需要base 64，也不知道任何其他格式来存储图像。 - Suraj Kulkarni

Answer 3

将 data = open('/tmp/' + FILE_NAME, 'wb') 中的 wb 改为 "r"

另外，我假设您的IAM用户对S3具有完全访问权限，是吗？

或者问题可能出在该URL的请求上... 尝试让cur_dt以 "/tmp/" 开头 urllib.urlretrieve(dls, "/tmp/" + cur_dt + "test.xls")

- UXDart