将非常大的JSON解码为结构体数组

Question

我是一位有用的助手，可以为您翻译文本。

我有一个Web应用程序，其中包含REST API，以JSON作为输入并对此JSON执行转换。

以下是我的代码：

func (a *API) getAssignments(w http.ResponseWriter, r *http.Request) {

   var document DataPacket
   err := json.NewDecoder(r.Body).Decode(&document)
   if err != nil {
       a.handleJSONParseError(err, w)
      return
   }

   // transformations

我获得的JSON是一个结构的集合。外部应用程序使用我的应用程序并发送非常大的JSON文件（300-400MB）。在一瞬间对这个JSON进行解码需要很长时间和大量的内存。

是否有一种方式可以将此JSON作为流来处理，并逐个从该集合中解码结构体？

- ceth

---

这个回答对你有帮助吗？（来源于 https://dev59.com/2VwZ5IYBdhLWcg3wJ9Yp#42612995） - Keith John Hutchison

也：Go - 在通过 net/http 进行实时数据传输的过程中解码 JSON - icza

Answer 1

首先，阅读文档。

---

Package json

import "encoding/json"

func (*Decoder) Decode

func (dec *Decoder) Decode(v interface{}) error

Decode reads the next JSON-encoded value from its input and stores it in the value pointed to by v.

Example (Stream): This example uses a Decoder to decode a streaming array of JSON objects.

Playground: https://play.golang.org/p/o6hD-UV85SZ

package main

import (
    "encoding/json"
    "fmt"
    "log"
    "strings"
)

func main() {
    const jsonStream = `
    [
        {"Name": "Ed", "Text": "Knock knock."},
        {"Name": "Sam", "Text": "Who's there?"},
        {"Name": "Ed", "Text": "Go fmt."},
        {"Name": "Sam", "Text": "Go fmt who?"},
        {"Name": "Ed", "Text": "Go fmt yourself!"}
    ]
`
    type Message struct {
        Name, Text string
    }
    dec := json.NewDecoder(strings.NewReader(jsonStream))

    // read open bracket
    t, err := dec.Token()
    if err != nil {
        log.Fatal(err)
    }
    fmt.Printf("%T: %v\n", t, t)

    // while the array contains values
    for dec.More() {
        var m Message
        // decode an array value (Message)
        err := dec.Decode(&m)
        if err != nil {
            log.Fatal(err)
        }

        fmt.Printf("%v: %v\n", m.Name, m.Text)
    }

    // read closing bracket
    t, err = dec.Token()
    if err != nil {
        log.Fatal(err)
    }
    fmt.Printf("%T: %v\n", t, t)

}

- peterSO