LINK TẢI LUẬN VĂN MIỄN PHÍ CHO AE KET-NOI
MỤC LỤC
GIẢI THÍCH ĐỊNH NGHĨA VÀ TỪ VIẾT TẮT..................................................v DANH SÁCH HÌNH ................................................................................................vi DANH SÁCH BẢNG ..............................................................................................vii PHẦN MỞ ĐẦU ........................................................................................................1
CHƢƠNG 1. MẠNG NƠRON VÀ MẠNG NƠRON TÍCH CHẬP.....................2 1.1. Giới thiệu về mạng nơron ..................................................................................2 1.2. Mạng nơron tích chập ........................................................................................5
1.2.1. Định nghĩa mạng nơron tích chập...........................................................5
1.2.2. Convolution (tích chập) ..........................................................................5
1.3. Mô hình mạng nơron tích chập .........................................................................5 1.4. Tính chất của mạng nơron tích chập ................................................................8 1.5. Kết luận chƣơng................................................................................................10
CHƢƠNG 2. TỔNG QUAN VỀ NHẬN DẠNG BIỂN SỐ XE ...........................11 2.1. Khái niệm về hệ thống nhận dạng biển số xe .................................................11
2.1.1. Lịch sử phát triển ..................................................................................11
2.1.2. Cách thức hoạt động của hệ thống nhận dạng biển số xe .....................11
2.1.3. Phân loại các ứng dụng nhận dạng biển số xe ......................................12
2.1.4. Ứng dụng thực tiễn tại Việt Nam..........................................................13
2.1.5. Phân loại biển số xe ..............................................................................14
2.2.Phƣơng pháp nhận dạng biển số xe từ ảnh chụp camera.............................17
2.2.1. Phương pháp chuyển đổi Hough...........................................................17
2.2.2. Phương pháp hình thái học....................................................................18
2.3.Phƣơng pháp nhận dạng ký tự trong biển số xe............................................19 2.4. Phạm vi nghiên cứu và hƣớng giải quyết .......................................................20 2.5. Kết luận chƣơng................................................................................................22
iv
CHƢƠNG 3. ÁP DỤNG MẠNG NƠRON TÍCH CHẬP TRONG NHẬN DẠNG KÝ TỰ .........................................................................................................23 3.1. Nhận dạng ký tự trong bài toán nhận dạng biển số xe .................................23 3.2. Giai đoạn xử lý ảnh ..........................................................................................23
3.2.1. Cách phân loại ảnh ................................................................................23
3.2.2. Các giai đoạn xử lý ảnh.........................................................................24
3.2.3. Xác định vùng chứa biển số ..................................................................25
3.3. Xây dựng mô hình nhận dạng ký tự ...............................................................28 3.4. Thuật toán .........................................................................................................31
3.4.1. Tách dòng..............................................................................................31
3.4.2. Tách ký tự .............................................................................................32
3.4.3. Ánh xạ vào ma trận ...............................................................................32
3.4.4. Huấn luyện mạng nơron........................................................................34
3.4.5. Nhận dạng ký tự ....................................................................................34
3.5. Cài đặt ứng dụng ..............................................................................................35
3.5.1. Môi trường cài đặt và các yêu cầu phàn cứng phần mềm.....................35
3.5.2. Giao diện chương trình chính ...............................................................36
3.6. Kết quả thực nghiệm nhận dạng biển số xe ...................................................37 3.7. Kết luận chƣơng................................................................................................38
KẾT LUẬN ..............................................................................................................40 DANH MỤC TÀI LIỆU THAM KHẢO...............................................................41
v
GIẢI THÍCH ĐỊNH NGHĨA VÀ TỪ VIẾT TẮT
Định nghĩa/ Từ viết tắt
Giải thích
CNTT
Công nghệ thông tin
CSDL
Cơ sở dữ liệu
ND
Người dùng
MLP
Thuật toán lan truyền ngược
RGB
Red Green Blue
ANPR
Automatic number Plate Recognition
vi
DANH SÁCH HÌNH
Hình 1-1. Cấu tạo một Nơron......................................................................................2 Hình 1-2. Minh họa tích chập .....................................................................................5 Hình 1-3. Mô hình mạng nơron tích chập...................................................................6 Hình 1-4. Tích chập trên bản đồ kích hoạt..................................................................8 Hình 1-5. Kết nối cục bộ .............................................................................................9 Hình 1-6. Quá trình tổng hợp ......................................................................................9 Hình 2-1. Ảnh xám và lược đồ xám của ảnh ............................................................19 Hình 3-1. Ảnh màu, ảnh mức xám và ảnh nhị phân .................................................24 Hình 3-2. Các bước xử lý ảnh cơ bản .......................................................................24 Hình 3-3. Một số loại biển sỗ xe thông dụng............................................................26 Hình 3-4. Các bước phát hiện vùng chứa biển số xe ................................................27 Hình 3-5. Bộ lọc được sử dụng trong lớp tích chập đầu tiên là các ma trận kích thước 3x3 của -1,0 và 1 .............................................................................................29 Hình 3-6. Nhân chập bộ lọc F1 với ma trận ảnh đầu vào của số 7............................30 Hình 3-7. Ví dụ về bộ lọc cạnh (đứng phải, đứng trái, ngang dưới, ngang trên) với đầu vào là ảnh số viết tay. .........................................................................................31 Hình 3-8. Quá trình chia lưới kí tự............................................................................33 Hình 3-9. Quá trình ánh xạ từ ma trận điểm sang ma trận giá trị .............................34 Hình 3-10. Giao diện Visual studio 2015 .................................................................35 Hình 3-11. Giao diện chương trình chính .................................................................36 Hình 3-12. Một số biển không phát hiện được biển số.............................................37 Hình 3-13. Một số biển không tách đúng ký tự, chữ số bị dính với các vật bên ngoài như đinh ốc, ký tự bị mờ nét, mất nét, loang lổ,... ....................................................37 Hình 3-14. Một số biển số xe nhận dạng sai hặc không thể nhận dạng....................38 Hình 3-15. Mẫu biển số xe nhận dạng chuẩn............................................................38
vii
DANH SÁCH BẢNG
Bảng 1.1. Một số hàm truyền thông dụng...................................................................4 Bảng 2.1. Quy định biển số cho quân đội. ................................................................15
1
PHẦN MỞ ĐẦU
Deep Learning là một thuật toán dựa trên một số ý tưởng từ não bộ tới việc tiếp thu nhiều tầng biểu đạt, cả cụ thể lẫn trừu tượng, qua đó làm rõ nghĩa của các loại dữ liệu. Deep Learning được ứng dụng trong nhận diện hình ảnh, nhận diện giọng nói, xử lý ngôn ngữ tự nhiên
Hiện nay rất nhiều các bài toán nhận dạng sử dụng deep learning để giải quyết do deep learning có thể giải quyết các bài toán với số lượng lớn, kích thước đầu vào lớn với hiệu năng cũng như độ chính xác vượt trội so với các phương pháp phân lớp truyền thống.
Những năm gần đây, ta đã chứng kiến được nhiều thành tựu vượt bậc trong ngành Thị giác máy tính (Computer Vision). Các hệ thống xử lý ảnh lớn như Facebook, Google hay Amazon đã đưa vào sản phẩm của mình những chức năng thông minh như nhận diện khuôn mặt người dùng, phát triển xe hơi tự lái haydrone giao hàng tự động.
Convolutional Nơron Network (CNNs – Mạng nơ-ron tích chập) là một trong những mô hình Deep Learning tiên tiến giúp cho chúng ta xây dựng được những hệ thống thông minh với độ chính xác cao như hiện nay. Trong luận văn cao học này, em đi vào nghiên cứu về mạng nơron cũng như mạng Convolution (tích chập) cũng như ý tưởng của mô hình CNNs trong phân lớp ảnh (Image Classification), và áp dụng trong việc xây dựng hệ thống nhận dạng biển số xe tự động.
Nội dung bài báo cáo bao gồm 3 chương.
Chương 1: Mạng nơron và mạng nơron tích chập.
Chương 2: Tổng quan về nhận dạng biển số xe.
Chương 3: Áp dụng mạng nơron tích chập trong nhận dạng ký tự
Phần kết luận tóm tắt lại các nội dung đã đạt được của luận văn, và nêu lên một số gợi ý về hướng phát triển tiếp theo của luận văn.
2
CHƢƠNG 1. MẠNG NƠRON VÀ MẠNG NƠRON TÍCH CHẬP 1.1. Giới thiệu về mạng nơron
Định nghĩa: Mạng nơron nhân tạo, Artificial Nơron Network (ANN) là một mô hình xử lý thông tin phỏng theo cách thức xử lý thông tin của các hệ nơron sinh học. Nó được tạo nên từ một số lượng lớn các phần tử (nơron) kết nối với nhau thông qua các liên kết (trọng số liên kết) làm việc như một thể thống nhất để giải quyết một vấn đề cụ thể nào đó. Một mạng nơron nhân tạo được cấu hình cho một ứng công cụ thể (nhận dạng mẫu, phân loại dữ liệu,...) thông qua một quá trình học từ tập các mẫu huấn luyện. Về bản chất học chính là quá trình hiệu chỉnh trọng số liên kết giữa các nơron.
Cấu trúc nơron nhân tạo:
Hình 1-1. Cấu tạo một Nơron
Các thành phần cơ bản của một nơron nhân tạo bao gồm:
Tập các đầu vào: Là các tín hiệu vào (input signals) của nơron, các tín hiệu này thường được đưa vào dưới dạng một vector N chiều.
Tập các liên kết: Mỗi liên kết được thể hiện bởi một trọng số liên kết – Synaptic weight. Trọng số liên kết giữa tín hiệu vào thứ j với nơron k thường được ký hiệu là wkj. Thông thường, các trọng số này được khởi tạo một cách ngẫu nhiên ở thời điểm khởi tạo mạng và được cập nhập liên tục trong quá trình học mạng.
Bộ tổng (Summing function): Thường dùng để tính tổng của tích các đầu vào với trọng số liên kết của nó.
Ngưỡng (còn gọi là một độ lệch - bias): Ngưỡng này thường được đưa vào như một thành phần của hàm truyền.
3
Hàm truyền (Transfer function): Hàm này được dùng để giới hạn phạm vi đầu ra của mỗi nơron. Nó nhận đầu vào là kết quả của hàm tổng và ngưỡng.
Đầu ra: Là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa là một đầu ra. Xét về mặt toán học, cấu trúc của một nơron k, được mô tả bằng cặp biểu thức sau:
Trong đó: x1, x2, ..., xp: là các tín hiệu vào; (wk1, wk2,..., wkp) là các trọng số liên kết của nơron thứ k; uk là hàm tổng; bk là một ngưỡng; f là hàm truyền và yk là tín hiệu đầu ra của nơron.
Như vậy nơron nhân tạo nhận các tín hiệu đầu vào, xử lý (nhân các tín hiệu này với trọng số liên kết, tính tổng các tích thu được rồi gửi kết quả tới hàm truyền), và cho một tín hiệu đầu ra ( là kết quả của hàm truyền).
4
Bảng 1.1. Một số hàm truyền thông dụng
Hàm truyền
Đồ thị
Định nghĩa
Hàm này cũng được biết đến với tên "Hàm ngưỡng" (Threshold function hay Heaviside function). Đầu ra của hàm này được giới hạn vào một trong hai giá trị:
Symmetrical Hard Limit (hardlims)
Linear (purelin)
Nếu coi các đầu vào là một đơn vị thì chúng sẽ sử dụng hàm này. Đôi khi một hằng số được nhân với net-input để tạo ra một hàm đồng nhất
Saturating Linear (satlin)
Hàm này có các thuộc tính tương tự hàm sigmoid. Nó làm việc tốt đối với các ứng dụng có đầu ra yêu cầu trong khoảng [-1,1].
Log- Sigmoid (logsig)
Hàm này đặc biệt thuận lợi khi sử dụng cho các mạng được huấn luyện (trained) bởi thuật toán Lan truyền ngược (back-propagation), bởi vì nó dễ lấy đạo hàm, do đó có thể giảm đáng kể tính toán trong quá trình huấn luyện. Hàm này được ứng dụng cho các chương trình ứng dụng mà các đầu ra mong muốn rơi vào khoảng [0,1].
5
1.1. Mạng nơron tích chập
1.1.1. Định nghĩa mạng nơron tích chập
Tích chập được ứng dụng phổ biến trong lĩnh vực thị giác máy tính. Thông qua các phép tích chập, các đặc trưng chính từ ảnh được chiết xuất và truyền vào các lớp tích chập (layer convolution). Mỗi một lớp tích chập sẽ bao gồm nhiều đơn vị mà kết quả ở mỗi đơn vị là một phép biến đổi tích chập từ layer trước đó thông qua phép nhân tích chập với bộ lọc.
1.1.2. Convolution (tích chập)
Tích chập là một khái niệm trong xử lý tín hiệu số nhằm biến đổi thông tin đầu vào thông qua một phép tích chập với bộ lọc để trả về đầu ra là một tín hiệu mới. Tín hiệu này sẽ làm giảm những đặc trưng mà bộ lọc không quan tâm và chỉ giữ những đặc trưng chính.
Hình 1-2. Minh họa tích chập
6
Ảnh đầu vào được cho qua một bộ lọc chạy dọc bức ảnh. Bộ lọc có kích thước là (3x3 hay 5x5) và áp dụng phép tích vô hướng để tính toán, cho ra một giá trị duy nhất. Đầu ra của phép tích chập là một tập các giá trị ảnh được gọi là mạng đặc trưng (features map).
1.2. Mô hình mạng nơron tích chập
Hình 1-3. Mô hình mạng nơron tích chập
CNNs có tính bất biến và tính kết hợp cục bộ (Location Invariance and Compositionality). Với cùng một đối tượng, nếu đối tượng này được chiếu theo các gốc độ khác nhau (translation, rotation, scaling) thì độ chính xác của thuật toán sẽ bị ảnh hưởng đáng kể. Pooling lớp sẽ cho bạn tính bất biến đối với phép dịch chuyển (translation), phép quay (rotation) và phép co giãn (scaling).
Về cơ bản thiết kế của một mạng nơ ron tích chập 2 chiều có dạng như sau:
INPUT -> [[CONV -> RELU]N -> POOL?]M -> [FC -> RELU]*K -> FC Trong đó:
Input: Lớp đầu vào
Conv Layer (Lớp tích chập): Mục tiêu của các lớp tích chập là trích chọn
các đặc trưng của ảnh đầu vào.
ReLU Layer (Lớp biến đổi): ReLU layer áp dụng các kích hoạt (activation function) max(0,x) lên đầu ra của Conv Layer, có tác dụng đưa các giá trị âm về thành 0. Layer này không thay đổi kích thước của ảnh và không có thêm bất kì tham số nào. Mục đích của lớp ReLu là đưa ảnh một mức ngưỡng, ở đây là 0. Để loại bỏ các giá trị âm không cần thiết mà có thể sẽ ảnh hưởng cho việc tính toán ở các layer sau đó.
7
Pool layer (Lớp tổng hợp): Pool Layer thực hiện chức năng làm giảm chiều không gian của đầu và giảm độ phức tạp tính toán của model ngoài ra Pool Layer còn giúp kiểm soát hiện tượng overffiting. Thông thường, Pool layer có nhiều hình thức khác nhau phù hợp cho nhiều bài toán, tuy nhiên Max Pooling là được sử dụng nhiều vào phổ biến hơn cả với ý tưởng cũng rất sát với thực tế con người đó là: Giữ lại chi tiết quan trọng hay hiểu ở trong bài toán này chính giữ lại pixel có giá trị lớn nhất.
Fully_Connected (Lớp kết nối hoàn toàn): Tại lớp mạng này, mỗi một nơ-ron của layer này sẽ liên kết tới mọi nơ-ron của lớp khác. Để đưa ảnh từ các layer trước vào mạng này, buộc phải dàn phẳng bức ảnh ra thành 1 vector thay vì là mảng nhiều chiều như trước. Tại layer cuối cùng sẽ sử dụng 1 hàm kinh điển trong học máy mà bất kì ai cũng từng sử dụng đó là softmax để phân loại đối tượng dựa vào vector đặc trưng đã được tính toán của các lớp trước đó.
Các kí hiệu []N, []M hay []*K ám chỉ cấu trúc bên trong [] có thể lặp lại nhiều lần liên tiếp nhau. M, K là số lần lặp lại. Kí hiệu -> thay mặt cho các lớp liền kề nhau mà lớp đứng trước -> sẽ làm đầu vào cho lớp đứng sau.
Như vậy ta có thể thấy một mạng nơron tích chập về cơ bản có 3 quá trình khác nhau:
Quá trình chiết xuất đặc trưng: Thông qua các tích chập giữa ma trận đầu vào với bộ lọc để tạo thành các đơn vị trong một lớp mới. Quá trình này có thể diễn ra liên tục ở phần đầu của mạng và thường sử dụng hàm kích hoạt relu.
Quá trình tổng hợp: Các lớp ở về sau quá trình chiết xuất đặc trưng sẽ có kích thước lớn do số đơn vị ở các lớp sau thường tăng tiến theo cấp số nhân. Điều đó làm tăng số lượng hệ số và khối lượng tính toán trong mạng nơ ron. Do đó để giảm tải tính toán chúng ta sẽ cần giảm chiều của ma trận hay giảm số đơn vị của lớp. Vì mỗi một đơn vị sẽ là kết quả thay mặt của việc áp dụng 1 bộ lọc để tìm ra một đặc trưng cụ thể nên việc giảm số đơn vị sẽ không khả thi. Giảm kích thước ma trận thông qua việc tìm ra 1 giá trị thay mặt cho mỗi một vùng không gian mà bộ lọc đi qua sẽ không làm thay đổi các đường nét chính của bức ảnh nhưng lại giảm được kích thước của ảnh. Do đó quá trình giảm chiều ma trận được áp dụng. Quá trình này gọi là tổng hợp.
ước 2: Phân tích ảnh cho các dòng kí tự Bước 3: Với mỗi dòng tách các kí tự liên tiếp
Phân tích và xử lý ảnh kí tự cho việc ánh xạ vào một vectơ đầu vào
Đưa giá trị vector đầu vào cho mạng nơron và tính toán giá trị đầu ra 3.5. Cài đặt ứng dụng
3.5.1. Môi trường cài đặt và các yêu cầu phàn cứng phần mềm
Phần mềm Visual studio 2015: Visual Studio là một môi trường tích hợp từ Microsoft. Nó được sử dụng để phát triển chương trình máy tính cho Microsoft Windows, cũng như các trang web, các ứng dụng web và các dịch vụ web. Visual Studio hỗ trợ nhiều ngôn ngữ lập trình khác nhau và cho phép các lập trình viên biên tập mã và gỡ lỗi để hỗ trợ (mức độ khác nhau) với hầu hết các ngôn ngữ lập trình, cung cấp một dịch vụ ngôn ngữ cụ thể tồn tại. . Ứng dụng này được xây dựng trong ngôn ngữ bao gồm C, C ++,VB,C#...
chức năng chính của chương trình Visual Studio là biên tập code, sửa lỗi và thiết kế Window Forms...
Do Drive thay đổi chính sách, nên một số link cũ yêu cầu duyệt download. các bạn chỉ cần làm theo hướng dẫn.
Password giải nén nếu cần: ket-noi.com | Bấm trực tiếp vào Link để tải:
MỤC LỤC
GIẢI THÍCH ĐỊNH NGHĨA VÀ TỪ VIẾT TẮT..................................................v DANH SÁCH HÌNH ................................................................................................vi DANH SÁCH BẢNG ..............................................................................................vii PHẦN MỞ ĐẦU ........................................................................................................1
CHƢƠNG 1. MẠNG NƠRON VÀ MẠNG NƠRON TÍCH CHẬP.....................2 1.1. Giới thiệu về mạng nơron ..................................................................................2 1.2. Mạng nơron tích chập ........................................................................................5
1.2.1. Định nghĩa mạng nơron tích chập...........................................................5
1.2.2. Convolution (tích chập) ..........................................................................5
1.3. Mô hình mạng nơron tích chập .........................................................................5 1.4. Tính chất của mạng nơron tích chập ................................................................8 1.5. Kết luận chƣơng................................................................................................10
CHƢƠNG 2. TỔNG QUAN VỀ NHẬN DẠNG BIỂN SỐ XE ...........................11 2.1. Khái niệm về hệ thống nhận dạng biển số xe .................................................11
2.1.1. Lịch sử phát triển ..................................................................................11
2.1.2. Cách thức hoạt động của hệ thống nhận dạng biển số xe .....................11
2.1.3. Phân loại các ứng dụng nhận dạng biển số xe ......................................12
2.1.4. Ứng dụng thực tiễn tại Việt Nam..........................................................13
2.1.5. Phân loại biển số xe ..............................................................................14
2.2.Phƣơng pháp nhận dạng biển số xe từ ảnh chụp camera.............................17
2.2.1. Phương pháp chuyển đổi Hough...........................................................17
2.2.2. Phương pháp hình thái học....................................................................18
2.3.Phƣơng pháp nhận dạng ký tự trong biển số xe............................................19 2.4. Phạm vi nghiên cứu và hƣớng giải quyết .......................................................20 2.5. Kết luận chƣơng................................................................................................22
iv
CHƢƠNG 3. ÁP DỤNG MẠNG NƠRON TÍCH CHẬP TRONG NHẬN DẠNG KÝ TỰ .........................................................................................................23 3.1. Nhận dạng ký tự trong bài toán nhận dạng biển số xe .................................23 3.2. Giai đoạn xử lý ảnh ..........................................................................................23
3.2.1. Cách phân loại ảnh ................................................................................23
3.2.2. Các giai đoạn xử lý ảnh.........................................................................24
3.2.3. Xác định vùng chứa biển số ..................................................................25
3.3. Xây dựng mô hình nhận dạng ký tự ...............................................................28 3.4. Thuật toán .........................................................................................................31
3.4.1. Tách dòng..............................................................................................31
3.4.2. Tách ký tự .............................................................................................32
3.4.3. Ánh xạ vào ma trận ...............................................................................32
3.4.4. Huấn luyện mạng nơron........................................................................34
3.4.5. Nhận dạng ký tự ....................................................................................34
3.5. Cài đặt ứng dụng ..............................................................................................35
3.5.1. Môi trường cài đặt và các yêu cầu phàn cứng phần mềm.....................35
3.5.2. Giao diện chương trình chính ...............................................................36
3.6. Kết quả thực nghiệm nhận dạng biển số xe ...................................................37 3.7. Kết luận chƣơng................................................................................................38
KẾT LUẬN ..............................................................................................................40 DANH MỤC TÀI LIỆU THAM KHẢO...............................................................41
v
GIẢI THÍCH ĐỊNH NGHĨA VÀ TỪ VIẾT TẮT
Định nghĩa/ Từ viết tắt
Giải thích
CNTT
Công nghệ thông tin
CSDL
Cơ sở dữ liệu
ND
Người dùng
MLP
Thuật toán lan truyền ngược
RGB
Red Green Blue
ANPR
Automatic number Plate Recognition
vi
DANH SÁCH HÌNH
Hình 1-1. Cấu tạo một Nơron......................................................................................2 Hình 1-2. Minh họa tích chập .....................................................................................5 Hình 1-3. Mô hình mạng nơron tích chập...................................................................6 Hình 1-4. Tích chập trên bản đồ kích hoạt..................................................................8 Hình 1-5. Kết nối cục bộ .............................................................................................9 Hình 1-6. Quá trình tổng hợp ......................................................................................9 Hình 2-1. Ảnh xám và lược đồ xám của ảnh ............................................................19 Hình 3-1. Ảnh màu, ảnh mức xám và ảnh nhị phân .................................................24 Hình 3-2. Các bước xử lý ảnh cơ bản .......................................................................24 Hình 3-3. Một số loại biển sỗ xe thông dụng............................................................26 Hình 3-4. Các bước phát hiện vùng chứa biển số xe ................................................27 Hình 3-5. Bộ lọc được sử dụng trong lớp tích chập đầu tiên là các ma trận kích thước 3x3 của -1,0 và 1 .............................................................................................29 Hình 3-6. Nhân chập bộ lọc F1 với ma trận ảnh đầu vào của số 7............................30 Hình 3-7. Ví dụ về bộ lọc cạnh (đứng phải, đứng trái, ngang dưới, ngang trên) với đầu vào là ảnh số viết tay. .........................................................................................31 Hình 3-8. Quá trình chia lưới kí tự............................................................................33 Hình 3-9. Quá trình ánh xạ từ ma trận điểm sang ma trận giá trị .............................34 Hình 3-10. Giao diện Visual studio 2015 .................................................................35 Hình 3-11. Giao diện chương trình chính .................................................................36 Hình 3-12. Một số biển không phát hiện được biển số.............................................37 Hình 3-13. Một số biển không tách đúng ký tự, chữ số bị dính với các vật bên ngoài như đinh ốc, ký tự bị mờ nét, mất nét, loang lổ,... ....................................................37 Hình 3-14. Một số biển số xe nhận dạng sai hặc không thể nhận dạng....................38 Hình 3-15. Mẫu biển số xe nhận dạng chuẩn............................................................38
vii
DANH SÁCH BẢNG
Bảng 1.1. Một số hàm truyền thông dụng...................................................................4 Bảng 2.1. Quy định biển số cho quân đội. ................................................................15
1
PHẦN MỞ ĐẦU
Deep Learning là một thuật toán dựa trên một số ý tưởng từ não bộ tới việc tiếp thu nhiều tầng biểu đạt, cả cụ thể lẫn trừu tượng, qua đó làm rõ nghĩa của các loại dữ liệu. Deep Learning được ứng dụng trong nhận diện hình ảnh, nhận diện giọng nói, xử lý ngôn ngữ tự nhiên
Hiện nay rất nhiều các bài toán nhận dạng sử dụng deep learning để giải quyết do deep learning có thể giải quyết các bài toán với số lượng lớn, kích thước đầu vào lớn với hiệu năng cũng như độ chính xác vượt trội so với các phương pháp phân lớp truyền thống.
Những năm gần đây, ta đã chứng kiến được nhiều thành tựu vượt bậc trong ngành Thị giác máy tính (Computer Vision). Các hệ thống xử lý ảnh lớn như Facebook, Google hay Amazon đã đưa vào sản phẩm của mình những chức năng thông minh như nhận diện khuôn mặt người dùng, phát triển xe hơi tự lái haydrone giao hàng tự động.
Convolutional Nơron Network (CNNs – Mạng nơ-ron tích chập) là một trong những mô hình Deep Learning tiên tiến giúp cho chúng ta xây dựng được những hệ thống thông minh với độ chính xác cao như hiện nay. Trong luận văn cao học này, em đi vào nghiên cứu về mạng nơron cũng như mạng Convolution (tích chập) cũng như ý tưởng của mô hình CNNs trong phân lớp ảnh (Image Classification), và áp dụng trong việc xây dựng hệ thống nhận dạng biển số xe tự động.
Nội dung bài báo cáo bao gồm 3 chương.
Chương 1: Mạng nơron và mạng nơron tích chập.
Chương 2: Tổng quan về nhận dạng biển số xe.
Chương 3: Áp dụng mạng nơron tích chập trong nhận dạng ký tự
Phần kết luận tóm tắt lại các nội dung đã đạt được của luận văn, và nêu lên một số gợi ý về hướng phát triển tiếp theo của luận văn.
2
CHƢƠNG 1. MẠNG NƠRON VÀ MẠNG NƠRON TÍCH CHẬP 1.1. Giới thiệu về mạng nơron
Định nghĩa: Mạng nơron nhân tạo, Artificial Nơron Network (ANN) là một mô hình xử lý thông tin phỏng theo cách thức xử lý thông tin của các hệ nơron sinh học. Nó được tạo nên từ một số lượng lớn các phần tử (nơron) kết nối với nhau thông qua các liên kết (trọng số liên kết) làm việc như một thể thống nhất để giải quyết một vấn đề cụ thể nào đó. Một mạng nơron nhân tạo được cấu hình cho một ứng công cụ thể (nhận dạng mẫu, phân loại dữ liệu,...) thông qua một quá trình học từ tập các mẫu huấn luyện. Về bản chất học chính là quá trình hiệu chỉnh trọng số liên kết giữa các nơron.
Cấu trúc nơron nhân tạo:
Hình 1-1. Cấu tạo một Nơron
Các thành phần cơ bản của một nơron nhân tạo bao gồm:
Tập các đầu vào: Là các tín hiệu vào (input signals) của nơron, các tín hiệu này thường được đưa vào dưới dạng một vector N chiều.
Tập các liên kết: Mỗi liên kết được thể hiện bởi một trọng số liên kết – Synaptic weight. Trọng số liên kết giữa tín hiệu vào thứ j với nơron k thường được ký hiệu là wkj. Thông thường, các trọng số này được khởi tạo một cách ngẫu nhiên ở thời điểm khởi tạo mạng và được cập nhập liên tục trong quá trình học mạng.
Bộ tổng (Summing function): Thường dùng để tính tổng của tích các đầu vào với trọng số liên kết của nó.
Ngưỡng (còn gọi là một độ lệch - bias): Ngưỡng này thường được đưa vào như một thành phần của hàm truyền.
3
Hàm truyền (Transfer function): Hàm này được dùng để giới hạn phạm vi đầu ra của mỗi nơron. Nó nhận đầu vào là kết quả của hàm tổng và ngưỡng.
Đầu ra: Là tín hiệu đầu ra của một nơron, với mỗi nơron sẽ có tối đa là một đầu ra. Xét về mặt toán học, cấu trúc của một nơron k, được mô tả bằng cặp biểu thức sau:
Trong đó: x1, x2, ..., xp: là các tín hiệu vào; (wk1, wk2,..., wkp) là các trọng số liên kết của nơron thứ k; uk là hàm tổng; bk là một ngưỡng; f là hàm truyền và yk là tín hiệu đầu ra của nơron.
Như vậy nơron nhân tạo nhận các tín hiệu đầu vào, xử lý (nhân các tín hiệu này với trọng số liên kết, tính tổng các tích thu được rồi gửi kết quả tới hàm truyền), và cho một tín hiệu đầu ra ( là kết quả của hàm truyền).
4
Bảng 1.1. Một số hàm truyền thông dụng
Hàm truyền
Đồ thị
Định nghĩa
Hàm này cũng được biết đến với tên "Hàm ngưỡng" (Threshold function hay Heaviside function). Đầu ra của hàm này được giới hạn vào một trong hai giá trị:
Symmetrical Hard Limit (hardlims)
Linear (purelin)
Nếu coi các đầu vào là một đơn vị thì chúng sẽ sử dụng hàm này. Đôi khi một hằng số được nhân với net-input để tạo ra một hàm đồng nhất
Saturating Linear (satlin)
Hàm này có các thuộc tính tương tự hàm sigmoid. Nó làm việc tốt đối với các ứng dụng có đầu ra yêu cầu trong khoảng [-1,1].
Log- Sigmoid (logsig)
Hàm này đặc biệt thuận lợi khi sử dụng cho các mạng được huấn luyện (trained) bởi thuật toán Lan truyền ngược (back-propagation), bởi vì nó dễ lấy đạo hàm, do đó có thể giảm đáng kể tính toán trong quá trình huấn luyện. Hàm này được ứng dụng cho các chương trình ứng dụng mà các đầu ra mong muốn rơi vào khoảng [0,1].
5
1.1. Mạng nơron tích chập
1.1.1. Định nghĩa mạng nơron tích chập
Tích chập được ứng dụng phổ biến trong lĩnh vực thị giác máy tính. Thông qua các phép tích chập, các đặc trưng chính từ ảnh được chiết xuất và truyền vào các lớp tích chập (layer convolution). Mỗi một lớp tích chập sẽ bao gồm nhiều đơn vị mà kết quả ở mỗi đơn vị là một phép biến đổi tích chập từ layer trước đó thông qua phép nhân tích chập với bộ lọc.
1.1.2. Convolution (tích chập)
Tích chập là một khái niệm trong xử lý tín hiệu số nhằm biến đổi thông tin đầu vào thông qua một phép tích chập với bộ lọc để trả về đầu ra là một tín hiệu mới. Tín hiệu này sẽ làm giảm những đặc trưng mà bộ lọc không quan tâm và chỉ giữ những đặc trưng chính.
Hình 1-2. Minh họa tích chập
6
Ảnh đầu vào được cho qua một bộ lọc chạy dọc bức ảnh. Bộ lọc có kích thước là (3x3 hay 5x5) và áp dụng phép tích vô hướng để tính toán, cho ra một giá trị duy nhất. Đầu ra của phép tích chập là một tập các giá trị ảnh được gọi là mạng đặc trưng (features map).
1.2. Mô hình mạng nơron tích chập
Hình 1-3. Mô hình mạng nơron tích chập
CNNs có tính bất biến và tính kết hợp cục bộ (Location Invariance and Compositionality). Với cùng một đối tượng, nếu đối tượng này được chiếu theo các gốc độ khác nhau (translation, rotation, scaling) thì độ chính xác của thuật toán sẽ bị ảnh hưởng đáng kể. Pooling lớp sẽ cho bạn tính bất biến đối với phép dịch chuyển (translation), phép quay (rotation) và phép co giãn (scaling).
Về cơ bản thiết kế của một mạng nơ ron tích chập 2 chiều có dạng như sau:
INPUT -> [[CONV -> RELU]N -> POOL?]M -> [FC -> RELU]*K -> FC Trong đó:
Input: Lớp đầu vào
Conv Layer (Lớp tích chập): Mục tiêu của các lớp tích chập là trích chọn
các đặc trưng của ảnh đầu vào.
ReLU Layer (Lớp biến đổi): ReLU layer áp dụng các kích hoạt (activation function) max(0,x) lên đầu ra của Conv Layer, có tác dụng đưa các giá trị âm về thành 0. Layer này không thay đổi kích thước của ảnh và không có thêm bất kì tham số nào. Mục đích của lớp ReLu là đưa ảnh một mức ngưỡng, ở đây là 0. Để loại bỏ các giá trị âm không cần thiết mà có thể sẽ ảnh hưởng cho việc tính toán ở các layer sau đó.
7
Pool layer (Lớp tổng hợp): Pool Layer thực hiện chức năng làm giảm chiều không gian của đầu và giảm độ phức tạp tính toán của model ngoài ra Pool Layer còn giúp kiểm soát hiện tượng overffiting. Thông thường, Pool layer có nhiều hình thức khác nhau phù hợp cho nhiều bài toán, tuy nhiên Max Pooling là được sử dụng nhiều vào phổ biến hơn cả với ý tưởng cũng rất sát với thực tế con người đó là: Giữ lại chi tiết quan trọng hay hiểu ở trong bài toán này chính giữ lại pixel có giá trị lớn nhất.
Fully_Connected (Lớp kết nối hoàn toàn): Tại lớp mạng này, mỗi một nơ-ron của layer này sẽ liên kết tới mọi nơ-ron của lớp khác. Để đưa ảnh từ các layer trước vào mạng này, buộc phải dàn phẳng bức ảnh ra thành 1 vector thay vì là mảng nhiều chiều như trước. Tại layer cuối cùng sẽ sử dụng 1 hàm kinh điển trong học máy mà bất kì ai cũng từng sử dụng đó là softmax để phân loại đối tượng dựa vào vector đặc trưng đã được tính toán của các lớp trước đó.
Các kí hiệu []N, []M hay []*K ám chỉ cấu trúc bên trong [] có thể lặp lại nhiều lần liên tiếp nhau. M, K là số lần lặp lại. Kí hiệu -> thay mặt cho các lớp liền kề nhau mà lớp đứng trước -> sẽ làm đầu vào cho lớp đứng sau.
Như vậy ta có thể thấy một mạng nơron tích chập về cơ bản có 3 quá trình khác nhau:
Quá trình chiết xuất đặc trưng: Thông qua các tích chập giữa ma trận đầu vào với bộ lọc để tạo thành các đơn vị trong một lớp mới. Quá trình này có thể diễn ra liên tục ở phần đầu của mạng và thường sử dụng hàm kích hoạt relu.
Quá trình tổng hợp: Các lớp ở về sau quá trình chiết xuất đặc trưng sẽ có kích thước lớn do số đơn vị ở các lớp sau thường tăng tiến theo cấp số nhân. Điều đó làm tăng số lượng hệ số và khối lượng tính toán trong mạng nơ ron. Do đó để giảm tải tính toán chúng ta sẽ cần giảm chiều của ma trận hay giảm số đơn vị của lớp. Vì mỗi một đơn vị sẽ là kết quả thay mặt của việc áp dụng 1 bộ lọc để tìm ra một đặc trưng cụ thể nên việc giảm số đơn vị sẽ không khả thi. Giảm kích thước ma trận thông qua việc tìm ra 1 giá trị thay mặt cho mỗi một vùng không gian mà bộ lọc đi qua sẽ không làm thay đổi các đường nét chính của bức ảnh nhưng lại giảm được kích thước của ảnh. Do đó quá trình giảm chiều ma trận được áp dụng. Quá trình này gọi là tổng hợp.
ước 2: Phân tích ảnh cho các dòng kí tự Bước 3: Với mỗi dòng tách các kí tự liên tiếp
Phân tích và xử lý ảnh kí tự cho việc ánh xạ vào một vectơ đầu vào
Đưa giá trị vector đầu vào cho mạng nơron và tính toán giá trị đầu ra 3.5. Cài đặt ứng dụng
3.5.1. Môi trường cài đặt và các yêu cầu phàn cứng phần mềm
Phần mềm Visual studio 2015: Visual Studio là một môi trường tích hợp từ Microsoft. Nó được sử dụng để phát triển chương trình máy tính cho Microsoft Windows, cũng như các trang web, các ứng dụng web và các dịch vụ web. Visual Studio hỗ trợ nhiều ngôn ngữ lập trình khác nhau và cho phép các lập trình viên biên tập mã và gỡ lỗi để hỗ trợ (mức độ khác nhau) với hầu hết các ngôn ngữ lập trình, cung cấp một dịch vụ ngôn ngữ cụ thể tồn tại. . Ứng dụng này được xây dựng trong ngôn ngữ bao gồm C, C ++,VB,C#...
chức năng chính của chương trình Visual Studio là biên tập code, sửa lỗi và thiết kế Window Forms...
Do Drive thay đổi chính sách, nên một số link cũ yêu cầu duyệt download. các bạn chỉ cần làm theo hướng dẫn.
Password giải nén nếu cần: ket-noi.com | Bấm trực tiếp vào Link để tải:
You must be registered for see links