ดำเนินการจุดเชิงปริมาณของ Tensor เชิงปริมาณ `lhs` และ Tensor เชิงปริมาณ `rhs` เพื่อสร้าง `เอาต์พุต' เชิงปริมาณ
เมื่อกำหนด `lhs` เชิงปริมาณและ `rhs` เชิงปริมาณ จะดำเนินการจุดเชิงปริมาณบน 'lhs` และ 'rhs` เพื่อสร้าง 'เอาต์พุต' เชิงปริมาณ `lhs` และ `rhs` ต้องเป็น 2D Tensors และ lhs.dim_size(1) จะต้องตรงกับ rhs.dim_size(0) `lhs` และ `rhs` จะต้องเป็น Tensor เชิงปริมาณ โดยที่ค่าข้อมูลจะถูกหาปริมาณโดยใช้สูตร: quantized_data = clip(Original_data / scale + zero_point, quantization_min_val, quantization_max_val) "เอาต์พุต" ก็มีการวัดปริมาณเช่นกัน โดยใช้สูตรเดียวกัน หาก `rhs` ถูกวัดปริมาณต่อเทนเซอร์ `เอาต์พุต` จะต้องถูกวัดปริมาณต่อเทนเซอร์ด้วย
คลาสที่ซ้อนกัน
ระดับ | UniformQuantizedDot.Options | แอ็ตทริบิวต์ทางเลือกสำหรับ UniformQuantizedDot |
วิธีการสาธารณะ
เอาท์พุต <U> | เป็นเอาท์พุต () ส่งกลับค่าแฮนเดิลสัญลักษณ์ของเทนเซอร์ |
คงที่ <U, T> UniformQuantizedDot <U> | สร้าง ( ขอบเขต ขอบเขต ตัว ดำเนินการ <T> lhs ตัวดำเนินการ <T> rhs ตัว ดำเนินการ <Float> lhsScales ตัวดำเนินการ <จำนวนเต็ม> lhsZeroPoints ตัวดำเนินการ <Float> rhsScales ตัว ดำเนิน การ <จำนวนเต็ม> rhsZeroPoints ตัว ดำเนิน การ <Float> เอาท์พุทสเกล ตัวดำเนินการ <จำนวนเต็ม > เอาต์พุต ZeroPoints, Class<U> Tout, Long lhsQuantizationMinVal, Long lhsQuantizationMaxVal, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Long outputQuantizationMinVal, Long outputQuantizationMaxVal, Options... options) วิธีการจากโรงงานเพื่อสร้างคลาสที่ห่อการดำเนินการ UniformQuantizedDot ใหม่ |
คง UniformQuantizedDot.Options | lhsQuantizationAxis (ยาว lhsQuantizationAxis) |
เอาท์พุต <U> | เอาท์พุท () เอาท์พุต 2D Tensor ของ Tout ซึ่งมีรูปร่างเป็น (lhs.dim_size(0), rhs.dim_size(1)) |
คง UniformQuantizedDot.Options | เอาท์พุทQuantizationAxis (เอาท์พุทยาวQuantizationAxis) |
คง UniformQuantizedDot.Options | rhsQuantizationAxis (ยาว rhsQuantizationAxis) |
วิธีการสืบทอด
วิธีการสาธารณะ
เอาท์ พุท สาธารณะ <U> asOutput ()
ส่งกลับค่าแฮนเดิลสัญลักษณ์ของเทนเซอร์
อินพุตสำหรับการดำเนินการ TensorFlow คือเอาต์พุตของการดำเนินการ TensorFlow อื่น วิธีการนี้ใช้เพื่อรับหมายเลขอ้างอิงสัญลักษณ์ที่แสดงถึงการคำนวณอินพุต
สาธารณะคง UniformQuantizedDot <U> สร้าง (ขอบเขต ขอบเขต ตัวดำเนินการ <T> lhs, ตัวดำเนินการ <T> rhs, ตัวดำเนิน การ <Float> lhsScales, ตัวดำเนินการ <Integer> lhsZeroPoints, ตัวดำเนิน การ <Float> rhsScales, ตัวดำเนิน การ <Integer> rhsZeroPoints, ตัว ดำเนินการ <Float > เอาต์พุตสเกล, ตัวดำเนินการ <จำนวนเต็ม> เอาต์พุตศูนย์พอยต์, คลาส<U> Tout, ยาว lhsQuantizationMinVal, ยาว lhsQuantizationMaxVal, ยาว rhsQuantizationMinVal, ยาว rhsQuantizationMaxVal, ยาว outputQuantizationMinVal, ยาว outputQuantizationMaxVal, ตัวเลือก... ตัวเลือก)
วิธีการจากโรงงานเพื่อสร้างคลาสที่ห่อการดำเนินการ UniformQuantizedDot ใหม่
พารามิเตอร์
ขอบเขต | ขอบเขตปัจจุบัน |
---|---|
นะ | ต้องเป็นเทนเซอร์ 2 มิติของดีบุก |
Rhs | ต้องเป็นเทนเซอร์ 2 มิติของดีบุก |
lhsScales | ค่าทศนิยมที่ใช้เป็นมาตราส่วนเมื่อหาปริมาณข้อมูลต้นฉบับที่ lhs เป็นตัวแทน ต้องเป็นเทนเซอร์สเกลาร์ (lhs รองรับเฉพาะการหาปริมาณต่อเทนเซอร์เท่านั้น) |
lhsZeroPoints | ค่า int32 ที่ใช้เป็นศูนย์_point เมื่อหาปริมาณข้อมูลต้นฉบับที่ lhs เป็นตัวแทน สภาพรูปร่างเหมือนกับ lhs_scales |
rhsScales | ค่าทศนิยมที่ใช้เป็นมาตราส่วนเมื่อหาปริมาณข้อมูลต้นฉบับที่ rhs เป็นตัวแทน ต้องเป็นสเกลาร์เทนเซอร์ (การหาปริมาณต่อเทนเซอร์) หรือเทนเซอร์ 1D ขนาด (rhs.dim_size(1),) (การหาปริมาณต่อแชนเนล) |
rhsZeroPoints | ค่า int32 ที่ใช้เป็นศูนย์_point เมื่อหาปริมาณข้อมูลต้นฉบับที่ rhs เป็นตัวแทน สภาพรูปร่างเหมือนกับ rhs_scales |
เอาท์พุทสเกล | ค่าทศนิยมที่จะใช้เป็นมาตราส่วนเมื่อคำนวณปริมาณข้อมูลต้นฉบับที่เอาต์พุตเป็นตัวแทน ต้องเป็นสเกลาร์เทนเซอร์ (การหาปริมาณต่อเทนเซอร์) หรือเทนเซอร์ 1D ขนาด (output.dim_size(1),) (การหาปริมาณต่อแชนเนล) ถ้า rhs เป็นการวัดปริมาณต่อเทนเซอร์ เอาต์พุตจะต้องถูกวัดปริมาณต่อเทนเซอร์ด้วย ซึ่งหมายความว่าหาก rhs_scales และ rhs_zero_points เป็นเทนเซอร์สเกลาร์ ดังนั้น output_scales และ output_zero_points จะต้องเป็นเทนเซอร์สเกลาร์ด้วยเช่นกัน |
เอาท์พุตZeroPoints | ค่า int32 ที่ใช้เป็นศูนย์_point เมื่อหาปริมาณข้อมูลต้นฉบับที่เอาต์พุตเป็นตัวแทน สภาพรูปร่างเหมือนกับ rhs_scales |
โน้มน้าว | ประเภทของเทนเซอร์เอาท์พุต |
lhsQuantizationMinVal | ค่าต่ำสุดของข้อมูลเชิงปริมาณที่จัดเก็บไว้ใน lhs ตัวอย่างเช่น หาก Tin คือ qint8 จะต้องตั้งค่าเป็น -127 หากเป็นช่วงที่แคบหรือ -128 หากไม่ใช่ |
lhsQuantizationMaxVal | ค่าสูงสุดของข้อมูลเชิงปริมาณที่จัดเก็บไว้ใน rhs ตัวอย่างเช่น หาก Tin คือ qint8 จะต้องตั้งค่าเป็น 127 |
rhsQuantizationMinVal | ค่าต่ำสุดของข้อมูลเชิงปริมาณที่จัดเก็บไว้ใน rhs ตัวอย่างเช่น หาก Trhs คือ qint8 ค่านี้จะต้องตั้งค่าเป็น -127 หากเป็นช่วงที่แคบ หรือ -128 หากไม่ใช่ |
rhsQuantizationMaxVal | ค่าสูงสุดของข้อมูลเชิงปริมาณที่จัดเก็บไว้ใน rhs ตัวอย่างเช่น หาก Trhs คือ qint8 จะต้องตั้งค่าเป็น 127 |
เอาท์พุทปริมาณ MinVal | ค่าต่ำสุดของข้อมูลเชิงปริมาณที่จัดเก็บไว้ในเอาต์พุต ตัวอย่างเช่น หาก Tout คือ qint8 จะต้องตั้งค่าเป็น -127 หากเป็นช่วงที่แคบ หรือ -128 หากไม่ใช่ |
เอาท์พุทปริมาณMaxVal | ค่าสูงสุดของข้อมูลเชิงปริมาณที่จัดเก็บไว้ในเอาต์พุต ตัวอย่างเช่น หาก Tout เป็น qint8 จะต้องตั้งค่าเป็น 127 |
ตัวเลือก | มีค่าแอตทริบิวต์ทางเลือก |
การส่งคืน
- อินสแตนซ์ใหม่ของ UniformQuantizedDot
สาธารณะคง UniformQuantizedDot.Options lhsQuantizationAxis (ยาว lhsQuantizationAxis)
พารามิเตอร์
lhsQuantizationAxis | ระบุดัชนีขนาดของเทนเซอร์ที่ใช้การหาปริมาณต่อแกนสำหรับชิ้นตามขนาดนั้น หากตั้งค่าเป็น -1 (ค่าเริ่มต้น) จะบ่งชี้ถึงการหาปริมาณต่อเทนเซอร์ สำหรับ dot op lhs รองรับเฉพาะการหาปริมาณต่อเทนเซอร์เท่านั้น ดังนั้นแอตทริบิวต์นี้จะต้องตั้งค่าเป็น -1 ค่าอื่นๆ จะถูกปฏิเสธ |
---|
เอาท์พุท สาธารณะ <U> เอาท์พุท ()
เอาท์พุต 2D Tensor ของ Tout ซึ่งมีรูปร่างเป็น (lhs.dim_size(0), rhs.dim_size(1))
สาธารณะคง UniformQuantizedDot.Options outputQuantizationAxis (ยาว outputQuantizationAxis)
พารามิเตอร์
เอาท์พุท QuantizationAxis | ระบุดัชนีขนาดของเทนเซอร์ที่ใช้การหาปริมาณต่อแกนสำหรับชิ้นตามขนาดนั้น หากตั้งค่าเป็น -1 (ค่าเริ่มต้น) จะบ่งชี้ถึงการหาปริมาณต่อเทนเซอร์ สำหรับเอาต์พุต dot op รองรับเฉพาะการหาปริมาณต่อเทนเซอร์หรือการหาปริมาณต่อช่องสัญญาณตามมิติ 1 เท่านั้น ดังนั้น ต้องตั้งค่าแอ็ตทริบิวต์นี้เป็น -1 หรือ 1 ค่าอื่นๆ จะถูกปฏิเสธ |
---|
สาธารณะคง UniformQuantizedDot.Options rhsQuantizationAxis (ยาว rhsQuantizationAxis)
พารามิเตอร์
rhsQuantizationAxis | ระบุดัชนีขนาดของเทนเซอร์ที่ใช้การหาปริมาณต่อแกนสำหรับชิ้นตามขนาดนั้น หากตั้งค่าเป็น -1 (ค่าเริ่มต้น) จะบ่งชี้ถึงการหาปริมาณต่อเทนเซอร์ สำหรับ dot op rhs รองรับเฉพาะการหาปริมาณต่อเทนเซอร์หรือการหาปริมาณต่อช่องสัญญาณตามมิติ 1 เท่านั้น ดังนั้น ต้องตั้งค่าแอ็ตทริบิวต์นี้เป็น -1 หรือ 1 ค่าอื่นๆ จะถูกปฏิเสธ |
---|