ReLU

সংশোধিত লিনিয়ার ইউনিট (ReLU) সক্রিয়করণ।

ডিফল্ট মান সহ, এটি স্ট্যান্ডার্ড ReLU অ্যাক্টিভেশন প্রদান করে: max(x, 0) , উপাদান অনুসারে সর্বাধিক 0 এবং ইনপুট টেনসর।

ডিফল্ট পরামিতিগুলি পরিবর্তন করা আপনাকে অ-শূন্য থ্রেশহোল্ড ব্যবহার করতে, অ্যাক্টিভেশনের সর্বাধিক মান পরিবর্তন করতে এবং থ্রেশহোল্ডের নীচে মানের জন্য ইনপুটের একটি শূন্য নয় মাল্টিপল ব্যবহার করতে দেয়।

যেমন:

     Operand<TFloat32> input = tf.constant(
              new float[] {-10f, -5f, 0.0f, 5f, 10f});

     // With default parameters
     ReLU<TFloat32> relu = new ReLU<>(tf);
     Operand<TFloat32> result = relu.call(input);
     // result is [0.f,  0.f,  0.f,  5.f, 10.f]

     // With alpha = 0.5
     relu = new ReLU<>(tf, 0.5f, ReLU.MAX_VALUE_DEFAULT, ReLU.THRESHOLD_DEFAULT);
     result = relu.call(input);
     // result is [-5.f , -2.5f,  0.f ,  5.f , 10.f]

     // With maxValue = 5
     relu = new ReLU<>(tf, ReLU.ALPHA_DEFAULT, 5f, ReLU.THRESHOLD_DEFAULT);
     result = relu.call(input);
     // result is [0.f, 0.f, 0.f, 5.f, 5.f]

     // With threshold = 5
     relu = new ReLU<>(tf, ReLU.ALPHA_DEFAULT, ReLU.MAX_VALUE_DEFAULT, 5f);
     result = relu.call(input);
     // result is [-0.f, -0.f,  0.f,  0.f, 10.f]