Try using only the hue in video mode, with max saturation and value
[kaka/cakelight.git] / src / kaka / cakelight / Frame.java
index a162024..053b713 100644 (file)
@@ -5,16 +5,16 @@ import org.opencv.core.Mat;
 import org.opencv.core.Size;
 import org.opencv.imgproc.Imgproc;
 
-import java.awt.*;
-
 import static kaka.cakelight.Main.saveFile;
 import static kaka.cakelight.Main.timeIt;
 
 public class Frame {
     private byte[] data;
     private Configuration config;
-    private Mat colImage;
-    private Mat rowImage;
+//    private Mat colImage;
+//    private Mat rowImage;
+    private Mat converted;
+    private Mat[] images;
 
     private Frame(byte[] data) {
         this.data = data;
@@ -34,6 +34,7 @@ public class Frame {
         3) Resize to 2 images where each led uses 2 pixels:
             vertical   - 16 x <#leds>
             horizontal - <#leds> x 9
+        4) Resize to cols x rows first, then resize to a vertical and a horizontal like in (3).
          */
         Mat src = new Mat(config.video.height, config.video.width, CvType.CV_8UC2); // 8-bit, unsigned, 2 channels
         src.put(0, 0, data);
@@ -46,14 +47,22 @@ public class Frame {
 //            timeIt("resizing", () -> Imgproc.resize(converted, resized, new Size(config.leds.cols, config.leds.rows), 0, 0, Imgproc.INTER_AREA)); // INTER_AREA is the best for shrinking, but also the slowest (~1.5 ms)
 //        });
 
-        Mat converted = new Mat();
-        Imgproc.cvtColor(src, converted, Imgproc.COLOR_YUV2RGB_YUYV);
-        timeIt("model 1", () -> model1(converted, Imgproc.INTER_AREA));
-        timeIt("model 2", () -> model2(converted, Imgproc.INTER_AREA));
-        timeIt("model 3", () -> model3(converted, Imgproc.INTER_AREA));
+        Mat cropped = src.submat(
+                config.video.crop.top,
+                config.video.height - config.video.crop.bottom,
+                config.video.crop.left,
+                config.video.width - config.video.crop.right
+        );
+        converted = new Mat();
+        Imgproc.cvtColor(cropped, converted, config.video.format);
+//        timeIt("model 1", () -> model1(converted, Imgproc.INTER_AREA));
+//        timeIt("model 2", () -> model2(converted, Imgproc.INTER_AREA));
+//        timeIt("model 3", () -> model3(converted, Imgproc.INTER_AREA));
+        timeIt("model 4", () -> model4(converted, Imgproc.INTER_AREA));
 //        save(converted, "/home/kaka/test-converted.data");
 //        save(resized, "/home/kaka/test-resized.data");
-        System.out.println("color: " + getPixel(ListPosition.BOTTOM, 0));
+        src.release();
+        cropped.release();
     }
 
     private void model1(Mat src, int interpolation) {
@@ -67,31 +76,70 @@ public class Frame {
     }
 
     private void model3(Mat src, int interpolation) {
-        colImage = new Mat();
-        rowImage = new Mat();
-        Imgproc.resize(src, colImage, new Size(config.leds.cols, 9), 0, 0, interpolation);
-        Imgproc.resize(src, rowImage, new Size(16, config.leds.rows), 0, 0, interpolation);
+//        colImage = new Mat();
+//        rowImage = new Mat();
+//        Imgproc.resize(src, colImage, new Size(config.leds.cols, 9), 0, 0, interpolation);
+//        Imgproc.resize(src, rowImage, new Size(16, config.leds.rows), 0, 0, interpolation);
+    }
+
+    private void model4(Mat src, int interpolation) {
+        int width = 3 * src.cols() / 16;
+        int height = 3 * src.rows() / 9;
+        Mat[] cropped = new Mat[] {
+                /* LEFT   */ src.submat(0, src.rows(), 0, width),
+                /* RIGHT  */ src.submat(0, src.rows(), src.cols() - width, src.cols()),
+                /* TOP    */ src.submat(0, height, 0, src.cols()),
+                /* BOTTOM */ src.submat(src.rows() - height, src.rows(), 0, src.cols()),
+        };
+        images = new Mat[] {new Mat(), new Mat(), new Mat(), new Mat()};
+//        Imgproc.resize(cropped[ListPosition.LEFT.ordinal()], images[ListPosition.LEFT.ordinal()], new Size(3, config.leds.rows), 0, 0, interpolation);
+        Imgproc.resize(cropped[0], images[0], new Size(3, config.leds.rows), 0, 0, interpolation);
+        Imgproc.resize(cropped[1], images[1], new Size(3, config.leds.rows), 0, 0, interpolation);
+        Imgproc.resize(cropped[2], images[2], new Size(config.leds.cols, 3), 0, 0, interpolation);
+        Imgproc.resize(cropped[3], images[3], new Size(config.leds.cols, 3), 0, 0, interpolation);
+//        Imgproc.resize(src, colImage, new Size(config.leds.cols, 9), 0, 0, interpolation);
+//        Imgproc.resize(src, rowImage, new Size(16, config.leds.rows), 0, 0, interpolation);
+    }
+
+    private Color wrappedGetLedColor(ListPosition listPosition, int xy) {
+        Color c = getLedColor(listPosition, xy);
+        double[] hsv = c.toHSV();
+        return Color.hsv(hsv[0], 1, 1);
     }
 
-    public Color getPixel(ListPosition listPosition, int xy) {
+    private Color getLedColor(ListPosition listPosition, int xy) {
+        // TODO: maybe use highest value from pixels? 100 % from 1st, 66 % from 2nd, 33 % from 3rd. colors might be strange.
         switch (listPosition) {
             case LEFT:
-                return pixelToColor(rowImage, 0, xy);
+                return interpolatedRowColor(images[0], xy, 0, 1, 2);
+//                return interpolatedRowColor(xy, 0, 1, 2);
             case RIGHT:
-                return pixelToColor(rowImage, config.leds.cols - 1, xy);
+                return interpolatedRowColor(images[1], xy, 2, 1, 0);
+//                return interpolatedRowColor(xy, 15, 14, 13);
             case TOP:
-                return pixelToColor(colImage, xy, 0);
+                return interpolatedColColor(images[2], xy, 0, 1, 2);
+//                return interpolatedColColor(xy, 0, 1, 2);
             case BOTTOM:
-                return pixelToColor(colImage, xy, config.leds.cols - 1);
+                return interpolatedColColor(images[3], xy, 2, 1, 0);
+//                return interpolatedColColor(xy, 8, 7, 6);
         }
         return null;
     }
 
+    //    private Color interpolatedRowColor(int y, int x1, int x2, int x3) {
+    private Color interpolatedRowColor(Mat rowImage, int y, int x1, int x2, int x3) {
+        return pixelToColor(rowImage, x3, y).interpolate(pixelToColor(rowImage, x2, y), 0.65).interpolate(pixelToColor(rowImage, x1, y), 0.65);
+    }
+
+//    private Color interpolatedColColor(int x, int y1, int y2, int y3) {
+    private Color interpolatedColColor(Mat colImage, int x, int y1, int y2, int y3) {
+        return pixelToColor(colImage, x, y3).interpolate(pixelToColor(colImage, x, y2), 0.65).interpolate(pixelToColor(colImage, x, y1), 0.65);
+    }
+
     private Color pixelToColor(Mat image, int x, int y) {
         byte[] rgb = new byte[3];
         image.get(y, x, rgb);
-        System.out.println("r = " + rgb[0] + ", g = " + rgb[1] + ", b = " + rgb[2]);
-        return new Color(rgb[0], rgb[1], rgb[2]);
+        return Color.rgb(rgb[0] & 0xff, rgb[1] & 0xff, rgb[2] & 0xff);
     }
 
     private void save(Mat mat, String filepath) {
@@ -101,6 +149,33 @@ public class Frame {
     }
 
     public byte[] getData() {
-        return data;
+        byte[] buff = new byte[(int) (converted.total() * converted.channels())];
+        converted.get(0, 0, buff);
+        return buff;
+    }
+
+//    public Mat getColImage() {
+//        return colImage;
+//    }
+
+//    public Mat getRowImage() {
+//        return rowImage;
+//    }
+
+    public Mat getConvertedImage() {
+        return converted;
+    }
+
+    /**
+     * Creates a LED frame going counter-clockwise from the bottom-left corner, sans the corners.
+     */
+    public LedFrame getLedFrame() {
+        LedFrame frame = LedFrame.from(config);
+        int led = 0;
+        for (int i = 0; i < config.leds.cols; i++)      frame.setLedColor(led++, wrappedGetLedColor(ListPosition.BOTTOM, i));
+        for (int i = config.leds.rows - 1; i >= 0; i--) frame.setLedColor(led++, wrappedGetLedColor(ListPosition.RIGHT, i));
+        for (int i = config.leds.cols - 1; i >= 0; i--) frame.setLedColor(led++, wrappedGetLedColor(ListPosition.TOP, i));
+        for (int i = 0; i < config.leds.rows; i++)      frame.setLedColor(led++, wrappedGetLedColor(ListPosition.LEFT, i));
+        return frame;
     }
 }