如何从tflite模型中获取权重？

Question

我有一个简单的网络，使用tensorflow进行了修剪和量化。我特别遵循这个教程来应用于我的网络：https://www.tensorflow.org/model_optimization/guide/pruning/pruning_with_keras#convert_to_tensorflow_lite 最后，我得到了tflite文件。我想从这个文件中提取权重。我知道如何从'h5'文件中获取权重，但不知道如何从'tflite'文件中获取权重。或者在对模型执行量化后，是否有其他方法保存'h5'文件？

- Awais Hussain

Answer 1

创建一个tflite解释器并（可选）进行推断。tflite_interpreter.get_tensor_details()将返回一个字典列表，其中包含权重、偏差、它们的缩放比例、零点等信息。

'''
Create interpreter, allocate tensors
'''
tflite_interpreter = tf.lite.Interpreter(model_path='model_file.tflite')
tflite_interpreter.allocate_tensors()

'''
Check input/output details
'''
input_details = tflite_interpreter.get_input_details()
output_details = tflite_interpreter.get_output_details()

print("== Input details ==")
print("name:", input_details[0]['name'])
print("shape:", input_details[0]['shape'])
print("type:", input_details[0]['dtype'])
print("\n== Output details ==")
print("name:", output_details[0]['name'])
print("shape:", output_details[0]['shape'])
print("type:", output_details[0]['dtype'])

'''
Run prediction (optional), input_array has input's shape and dtype
'''
tflite_interpreter.set_tensor(input_details[0]['index'], input_array)
tflite_interpreter.invoke()
output_array = tflite_interpreter.get_tensor(output_details[0]['index'])

'''
This gives a list of dictionaries. 
'''
tensor_details = tflite_interpreter.get_tensor_details()

for dict in tensor_details:
    i = dict['index']
    tensor_name = dict['name']
    scales = dict['quantization_parameters']['scales']
    zero_points = dict['quantization_parameters']['zero_points']
    tensor = tflite_interpreter.tensor(i)()

    print(i, type, name, scales.shape, zero_points.shape, tensor.shape)

    '''
    See note below
    '''

• Conv2D层将有三个与之关联的字典：kernel（卷积核）、bias（偏置）和conv_output（卷积输出），每个字典都有它自己的scales（比例尺）、zero_points（零点）和张量（tensors）。
• 张量（tensors）- 是np数组，包含卷积核权重或偏置。对于conv_output或激活函数，这并不代表任何意义（不是中间输出）。
• 对于卷积核的字典，张量的形状为(cout, k, k, cin)

- Abarajithan

Answer 2

我通过使用Netron解决了这个问题。在Netron中，权重可以保存为numpy数组。 https://github.com/lutzroeder/netron

- Awais Hussain