Những Điều TÂN SINH VIÊN KHÓA 2017 cần LƯU Ý - HƯỚNG DẪN HỒ SƠ NHẬP HỌC


Qui định về quản lý SPAM, vui lòng đọc kĩ trước khi post bài

Mọi thắc mắc về công tác sinh viên, học vụ (lịch thi, điểm thi, đăng ký môn, tổ chức lớp, thông tin liên lạc lớp trưởng/giảng viên v.v...) sinh viên sử dụng tài khoản là MSSV để trao đổi tại các box phù hợp trong Mục CỘNG ĐỒNG UIT

+ Trả lời bài viết
Hiện kết quả từ 1 tới 5 của 5

Chủ đề: Bài toán XOR bị đứng MSE khi sử dụng MLP với hàm ReLU trên framework Neuroph.

  1. #1
    Đỗ Duy Thảo
    Tham gia ngày
    Aug 2013
    Khoa
    Cử nhân tài năng
    Bài gửi
    181
    Post Thanks / Like
    Mentioned
    1 Post(s)

    Smile Bài toán XOR bị đứng MSE khi sử dụng MLP với hàm ReLU trên framework Neuroph.

    Hiện tại mình đang định sử dụng MLP với hàm ReLU cho bài toán XOR bằng framework Neuroph (Java)
    Tuy nhiên không rõ vì sao mà khi chạy với sigmoid thì ok, nhưng dùng ReLU và Tanh thì lại có vần đề MSE. cụ thể là với ReLU thì MSE đứng tại 0.25 và tanh thì tại 1.25. Chi tiết bài toán mình có post tại forum của framwork này.
    https://sourceforge.net/p/neuroph/di...read/36006e43/
    Cảm ơn mọi người.

  2. #2
    Đỗ Duy Thảo
    Tham gia ngày
    Aug 2013
    Khoa
    Cử nhân tài năng
    Bài gửi
    181
    Post Thanks / Like
    Mentioned
    1 Post(s)
    Xác nhận là framework Neuroph có vấn đề nha các bạn. Khuyến cáo không nên sử dụng, nên chuyển sang deeplearning4j để hỗ trợ mạnh hơn nếu trên java.

  3. #3
    Phạm Quốc Anh Avatar của 14520031
    Tham gia ngày
    Aug 2014
    Khoa
    Khoa học máy tính
    Bài gửi
    18
    Post Thanks / Like
    Mentioned
    0 Post(s)
    Sao không thấy learning rate đâu hết nhỉ Việc cập nhật loss của net phụ thuộc vào nhiều yếu tố khác nhau và chỉ train 4 samples thì model khó có thể tối ưu hàm loss được, nếu lặp thêm vài lần chắc MSE sẽ đổi. Đổi activation mà ra kết quả khác nhau là do đạo hàm của mỗi hàm khác nhau dẫn đến delta w ở mỗi sample sẽ khác nhau và w sau mỗi iteration có thể khác nhau => sau bốn lần có thể khác nhau thì phải ạ.

  4. #4
    Đỗ Duy Thảo
    Tham gia ngày
    Aug 2013
    Khoa
    Cử nhân tài năng
    Bài gửi
    181
    Post Thanks / Like
    Mentioned
    1 Post(s)
    Vậy sao qua deeplearning4j nó hết ?

  5. #5
    Phạm Quốc Anh Avatar của 14520031
    Tham gia ngày
    Aug 2014
    Khoa
    Khoa học máy tính
    Bài gửi
    18
    Post Thanks / Like
    Mentioned
    0 Post(s)
    Cho em xem code bên dl4j hết được không? Anh dùng code XOR trong dl4j-examples hay code tương tự này?
    EDIT: Cho em xin file myMlPerceptron.nnet dùng trong code Neuroph với ạ
    Lần sửa cuối bởi 14520031; 05-07-2017 lúc 10:41

+ Trả lời bài viết

Từ khóa (Tag) của chủ đề này

Đánh dấu

Quyền viết bài

  • Bạn không thể gửi chủ đề mới
  • Bạn không thể gửi trả lời
  • Bạn không thể gửi file đính kèm
  • Bạn không thể sửa bài viết của mình