ReLU

Kích hoạt Đơn vị Tuyến tính Chỉnh lưu (ReLU).

Với các giá trị mặc định, điều này trả về kích hoạt ReLU tiêu chuẩn: max(x, 0) , mức tối đa theo phần tử là 0 và tensor đầu vào.

Việc sửa đổi các tham số mặc định cho phép bạn sử dụng các ngưỡng khác 0, thay đổi giá trị tối đa của kích hoạt và sử dụng bội số đầu vào khác 0 cho các giá trị dưới ngưỡng.

Ví dụ:

     Operand<TFloat32> input = tf.constant(
              new float[] {-10f, -5f, 0.0f, 5f, 10f});

     // With default parameters
     ReLU<TFloat32> relu = new ReLU<>(tf);
     Operand<TFloat32> result = relu.call(input);
     // result is [0.f,  0.f,  0.f,  5.f, 10.f]

     // With alpha = 0.5
     relu = new ReLU<>(tf, 0.5f, ReLU.MAX_VALUE_DEFAULT, ReLU.THRESHOLD_DEFAULT);
     result = relu.call(input);
     // result is [-5.f , -2.5f,  0.f ,  5.f , 10.f]

     // With maxValue = 5
     relu = new ReLU<>(tf, ReLU.ALPHA_DEFAULT, 5f, ReLU.THRESHOLD_DEFAULT);
     result = relu.call(input);
     // result is [0.f, 0.f, 0.f, 5.f, 5.f]

     // With threshold = 5
     relu = new ReLU<>(tf, ReLU.ALPHA_DEFAULT, ReLU.MAX_VALUE_DEFAULT, 5f);
     result = relu.call(input);
     // result is [-0.f, -0.f,  0.f,  0.f, 10.f]